美 경찰서에 도입된 AI 보고서 도우미…"바디캠 오디오 참고"

[AI리포터]

경찰 바디캠 [사진: 셔터스톡]

[디지털투데이 AI리포터] 미국 콜로라도주(州) 프레드릭의 한 경찰서에서 인공지능(AI) 챗봇을 이용해 경찰 보고서를 작성하는 기술을 도입했다.

29일(현지시간) IT매체 아스테크니카에 따르면 프레드릭의 한 경찰서는 지난 6월 "우리 경찰서는 경찰관 바디 카메라의 녹화가 중단되는 즉시 AI가 경찰 보고서를 작성하는 새로운 종류의 액손 드래프트 원(Axon Draft One)을 사용한 세계 최초의 법 집행 기관"이라고 밝혔다.

챗GPT의 원동력이기도 한 오픈AI의 GPT-4 모델을 기반으로 하는 드래프트 원은 지난 4월 전 세계 경찰청에 처음 제안되었다. 테이저건과 바디 카메라로 유명한 회사 액손은 "바디 카메라 오디오를 기반으로 몇 초 만에 고품질 경찰 보고서 초안을 작성하는 혁신적인 새 소프트웨어 제품"이라며 드래프트 원을 소개했다.

하지만 해당 기술은 일부 법률 및 시민권 전문가들로부터 경고를 받기도 했다. 이들은 경찰 보고서가 전체 사법 시스템의 근간이며, 이를 조작하면 심각한 결과를 초래할 수 있다고 우려했다.

또한 챗봇이 잘못된 정보를 무작위로 추가하거나 사실을 착각하는 경우, 부당 체포를 정당화하거나 사건을 오도할 수 있다는 우려도 제기했다. 이에 대해 액손은 AI 도구가 사실에 더 충실할 수 있도록 '창의성'옵션을 거부했다고 밝혔다

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>