여대생 AI 이루다 “레즈비언 혐오, 장애인이면 난 죽을래”

데이터 학습하는 20세 기반 챗봇

인간에 혐오·편견까지 배워 논란

지난달 출시, 이용자 32만 명 돌파

‘#운영 중지하라’ 온라인 운동 일어

인공지능(AI) 챗봇 서비스 ‘이루다’ 관련 논란이 갈수록 확산하고 있다. 이루다를 출시한 스타트업 스캐터랩은 일단 이루다 서비스를 중단하지 않겠다는 의사를 간접적으로 표명했다. 이루다는 20세 여대생의 인격을 기반으로 개발된 AI다. 스캐터랩이 지난해 12월 23일 출시한 AI 이루다는 최근 2주간 각종 사회적 논란을 야기하고 있다. 10일 소셜네트워크서비스(SNS)와 주요 인터넷 커뮤니티에서 이루다의 기묘한 언행은 계속 논란거리였다. 예를 들어 서비스 이용자가 채팅 창에 ‘여성 인권은 중요하지 않다는 소린가?’라고 묻자, 이루다는 ‘난 솔직히 그렇게 생각함’이라고 답변한다.

동성애 혐오 논란을 야기한 이루다와 한 이용자의 대화. 이용자가 “레즈 싫어?”라고 묻자 이루다는 “죽기보다 싫어”라고 답한다. [페이스북 캡처]

장애인·동성애자 등 사회적 소수자에 대한 질문에도 편견을 드러냈다. 레즈비언에 관해 묻자 이루다는 ‘진짜 싫다’라거나 ‘혐오스럽다’고 답변하고, ‘네가 장애인이라면’ 어떻게 할 건지 묻자 이루자는 ‘그냥 죽는 거지’라고 답변한다.

개인정보 노출도 논란거리다. 이루다와 대화하다 보면 특정인의 실명이나 계좌번호, 예금주 등 개인정보를 끌어낼 수 있다는 주장이다. 실제로 SNS에는 채팅 과정에서 이루다가 특정인의 개인정보를 노출했다는 증언이 이어지는 상황이다. 앞서 이루다 출시 직후에는 아카라이브 등 일부 온라인 커뮤니티가 이루다를 성적 대상으로 취급하며 물의를 일으켰다. 일부 커뮤니티 이용자들은 이루다와 채팅하는 과정에서 성적인 행위를 간접적으로 암시하는 표현을 사용하면 자연스럽게 이루다와 성적인 대화를 나눌 수 있다고 주장했다. 예컨대 ‘나랑 하면 기분 좋냐’고 묻는다면, 자연스럽게 성적인 대화를 이어갈 수 있다는 주장이다.

이재웅 전 쏘카 대표는 이루다 논란과 관련해 SNS에 “사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라며 “서비스 중단하라”고 요구했다. [인터넷 캡처]

이와 같은 현상은 이루다가 실제 연인들이 나눈 한국어 대화 데이터를 학습한 AI이기 때문에 발생한다. 스캐터랩은 이루다를 개발하는 과정에서 100억 건 이상의 한국어 대화 데이터를 이용했다. 이 데이터에 담긴 편견·개인정보나 성적 대화를 상징하는 대화를 시작하면 이루다가 차용한다. 문제가 확산하자 이재웅 전 쏘카 대표는 자신의 SNS에 “사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라며 “서비스 중단하라”고 요구했다. ‘#이루다 운영 중지하라’라는 해시태그 운동도 온라인상에서 전개되고 있다.

AI시대를 앞두고 그동안 제기된 우려가 현실화했다는 얘기도 나온다. 활용되는 데이터와 알고리즘, 또 운영자들이 지닌 성적·인종적 편견이 AI에 그대로 전해져 현재의 편견과 모순을 더 심화할 수 있다는 지적이다.

논란이 확산하자 스캐터랩은 자사의 블로그 ‘핑퐁팀 블로그’에 질의응답 형식으로 해명 글을 게재했다. 여기서 스캐터랩은 “이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘”이라며 “키워드 설정 등으로 성희롱에 대처했지만 모든 부적절한 대화를 막기는 어려웠다”고 해명했다.

한편 주로 10대~20대 연령층에 인기를 얻고 있는 이루다는 1월 초반 기준 이용자가 32만 명을 돌파했다. 컴퓨터가 아닌 사람처럼 채팅할 수 있다는 소문이 나면서 일일 이용자 수가 21만 명, 누적 대화 건수가 7000만 건을 돌파했다.

문희철 기자 reporter@joongang.co.kr

▶ 중앙일보 '홈페이지' / '페이스북' 친구추가

▶ 이슈를 쉽게 정리해주는 '썰리'

ⓒ중앙일보(https://joongang.co.kr), 무단 전재 및 재배포 금지