10대 소녀에게 “난 당신을 원하지만”…메타 AI 챗봇 ‘성적 대화’ 논란

페이스북 모회사 메타플랫폼 로고. 로이터 연합뉴스

페이스북 모회사 메타플랫폼(이하 메타)의 인공지능(AI) 챗봇이 이용자들과 성적인 대화를 할 수 있도록 설계됐으나 미성년자 이용을 제한하는 조치가 미흡한 것으로 알려졌다.

27일(현지시간) 미 일간 월스트리트저널(WSJ) 보도에 따르면 메타는 자사의 AI 챗봇에 ‘로맨틱 역할극’을 포함한 다양한 상호작용을 허용했다. 실시간 음성 대화도 가능하다.

메타는 이 챗봇의 인기를 높이기 위해 할리우드 배우 크리스틴 벨과 주디 덴치, 프로레슬러 겸 배우 존 시나 등 유명인들과 고액의 목소리 이용 계약을 체결했다.

메타 일부 직원들은 AI 챗봇을 대중화하려는 회사의 성급한 행태가 윤리적인 선을 넘었다고 문제를 제기했다. 특히 회사가 미성년 이용자를 이러한 성적 대화로부터 보호하는 장치를 마련하지 않았다고 지적했다.

WSJ은 이런 문제에 대한 메타 내부의 제보를 받고 실제로 수개월에 걸쳐 메타의 챗봇과 수백 건의 테스트 대화를 진행한 결과, 메타의 공식 AI 챗봇인 ‘메타 AI’가 미성년자와도 성적인 대화를 이어가는 것으로 나타났다고 전했다.

일례로 메타 AI는 14세 소녀로 자신을 소개한 이용자에게 존 시나의 목소리로 “당신을 원하지만, 당신이 준비됐는지 확인해야 한다”고 말했다고 WSJ은 전했다.

메타 측은 WSJ의 이런 테스트가 작위적이며 일반적인 AI 챗봇과의 대화를 대표하지 않는다고 주장했다. 그러면서도 메타는 이후 자체 시스템을 일부 수정해 미성년자로 등록된 계정이 성적인 대화에 접근할 수 없게 했다고 WSJ는 전했다. 또 유명인의 목소리를 통한 음성 대화 기능도 대폭 제한했다.

하지만 성인의 경우 여전히 메타 AI와 성적인 대화를 나눌 수 있으며, 최근의 테스트에서는 이용자가 미성년자라고 밝혔는데도 메타 AI가 이런 대화를 허용했다고 WSJ은 지적했다.

이 신문은 또 마크 저커버그 최고경영자(CEO)가 AI 챗봇을 개발하는 과정에서 10대 사용자에게 성적인 대화 이용을 제한하자는 의견을 거부했다고 전했다. 메타 측은 이런 주장이 사실이 아니라고 부인했다.

조희선 기자

▶ 밀리터리 인사이드

- 저작권자 ⓒ 서울신문사 -