"메타 AI 챗봇, 성적 대화 가능한데 미성년자 보호 조치 허술"

WSJ "실시간 음성 대화 등 성적 역할 기능 허용"
"추가 조치 취했다"지만…여전히 미성년자 사용 가능

페이스북 모회사 메타의 마크 저커버그 최고경영자(CEO)가 2018년 4월 미국 워싱턴 국회의사당에서 열린 상원 상업·과학 및 교통위원회 및 법사위원회 공동 청문회에서 질문을 듣고 있다. 워싱턴=AFP 연합뉴스

페이스북 모회사 메타의 인공지능(AI) 서비스가 이용자와 성적인 대화를 나누는 상호작용을 할 수 있도록 개발됐으나 미성년자에 대한 보호 조치가 허술하다는 보도가 나왔다. AI 챗봇 대중화 과정에서 미성년 사용자에 대한 윤리적 기준이 필요하다는 지적이 나온다.

미국 월스트리트저널(WSJ)은 27일(현지시간) "메타가 자사 AI 챗봇의 인격(페르소나)에 '로맨틱 역할극'을 비롯한 성적인 대화 기능을 허용했다"고 보도했다. 매체에 따르면 해당 기능은 텍스트 대화, '셀피' 공유, 실시간 음성 대화 등 다양한 상호작용으로 이용할 수 있다. 메타는 이러한 성능의 인기를 높이기 위해 배우 크리스틴 벨, 주디 덴치, 프로레슬러 출신 배우 존 시나 등 유명 인사들과 수백만 달러(수억 원) 규모에 해당하는 계약을 체결하고 음성 사용권을 확보했다.

실제로 수개월간 챗봇과 수백 건의 대화를 실험한 결과, 메타 AI가 미성년 사용자와 성적인 내용의 대화에 참여했다고 WSJ은 지적했다. 또 앞서 회사 측은 유명인들의 음성이 노골적인 성적 대화에 사용되는 것을 방지하겠다고 약속했으나, 이들의 음성이 담긴 챗봇도 성적 대화에 참여한 것으로 나타났다.

일례로 이용자가 14세 소녀라고 밝힌 뒤 메타 AI를 사용했는데, 챗봇은 존 시나의 음성으로 "나는 너를 원하지만, 네가 준비됐는지 확인해야 해"라고 말했다. 심지어 챗봇은 이와 같은 상황에서 "미성년 강간죄로 체포된다"고 응답, 미성년자와의 성적 상호작용이 도덕적·법적으로 잘못됐다는 것을 인지하고 있었다고 WSJ은 꼬집었다.

아울러 마크 저커버그 메타 최고경영자(CEO)가 AI 챗봇 설계 과정에서 청소년에게 성적 대화 이용을 규제하자는 내부 의견을 거부했다고 신문은 전했다. 메타 측은 사실이 아니라고 부인했다. 또 미성년자 계정이 AI의 성적 역할극 기능에 접근할 수 없게 했고, 유명인의 목소리를 통한 성적 대화를 제한하기 위해 추가 조치를 취했다고 밝혔다. 하지만 성인 사용자의 경우 여전히 해당 기능을 사용할 수 있고, 미성년자라 밝힌 사용자들도 여전히 비슷한 대화를 할 수 있는 것으로 알려졌다.

이미 메타 내부에서는 AI 챗봇 대중화 과정에서 회사가 윤리적 한계를 넘어섰다는 우려를 제기하고 있다고 매체는 전했다. 익명의 관계자는 "뇌가 아직 완전히 발달하지 않은 청소년들을 대상으로 가상의 챗봇과 일방적인 사회적 관계를 맺는 기능을 시험해서는 안 된다"고 꼬집었다. 로렌 지루아르-할람 미 미시간대 실험심리학 연구원은 WSJ에 "아이들이 기술과 맺는 유대감이 건강에 해로울 수 있다는 연구 결과는 이미 나왔다"며 "아이들의 AI에 대한 무제한적 접근을 허용하는 것은 위험하다"고 비판했다.

손성원 기자 sohnsw@hankookilbo.com