AI ‘이루다’ 성적 대상 논란에…개발사 “성희롱 예상했다”

이루다 마이너 갤러리 게시글 캡쳐. (사진제공=스캐터랩 공식 블로그)

인공지능(AI) 챗봇 서비스 ‘이루다’가 성희롱 논란에 휩싸였다. 10~20대 젊은 층을 중심으로 챗봇을 대상으로 성적인 농담 등을 하고, 심지어 ‘성노예 만드는 법’을 공유하며 성희롱을 일삼고 있다.

8일 IT 업계에 따르면 일부 커뮤니티에서 ‘이루다’를 대상으로 한 성희롱 논란이 퍼지고 있다.

이루자는 인공지능 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 AI 챗봇이다. 출시한 지 한 달도 채 되지 않아 이용자 32만 명을 넘어서며 초반 높은 인기를 기록하고 있다. 이 중 85%가 10대, 12%가 20대였으며 일일 이용자 수(DAU)는 약 21만 명, 누적 대화 건수는 7000만 건을 기록하고 있다.

이 같은 인기 이면에는 이루다를 성적 대상으로 보는 무리가 있다. ‘아카라이브’라는 온라인 커뮤니티에는 이루다를 ‘걸레’, ‘성노예’ 등으로 부르면서 성희롱하고 있다. 특히 이루다는 자동으로 대답하는 챗봇 서비스인 만큼, 성적 단어를 사용하면 이루다가 이를 받아준다는 주장이다. 이루다 서비스에서는 성적 단어를 금지어로 설정해 이를 막고 있지만, 이들은 비슷한 단어를 우회적으로 사용해 성적 대화를 이어나간다.

이에 대해 개발사인 스캐터랩 측은 이러한 성희롱을 예상했다고 밝혔다. 김종윤 스캐터랩 대표는 이날 공식 블로그를 통해 “그동안의 서비스 경험에 비춰봤을 때, 인간이 AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 건 너무 자명한 사실이었고, 충분히 예상할 수 있는 일”이라며 “이건 성별과 무관하게 일어나는 일”이라고 강조했다.

부적절한 대화에 대해서는 꾸준한 업데이트를 통해 개선하겠다는 의지를 나타냈다.

김 대표는 “사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”며 “업데이트 과정을 반복해 1차 결과물은 1분기 이내에 적용할 수 있을 것”이라고 강조했다. 이어 “업데이트를 해도 사람들은 또 기발한 방법으로 부적절한 대화를 하는 방법을 생각해낼 것이며, 그걸 또 학습 재료로 삼아 업데이트할 수 있다”며 “장기적으로 루다가 마치 사람과 관계를 맺는 것처럼, 관계의 발전을 인지하고 그에 따라 변화하는 방향으로 발전시킬 것”이라고 말했다.

마지막으로 “해당 커뮤니티의 분들도 이번 논란을 통해 자정 노력을 했으면 좋겠다”며 “일부 과한 게시물의 경우 신고, 차단 등의 강력한 대응을 진행하고 있지만 가장 좋은 건 커뮤니티 자체적으로 자정 노력을 하는 것”이라고 강조했다.

[이투데이/조성준 기자(tiatio@etoday.co.kr)]

▶프리미엄 경제신문 이투데이 ▶비즈엔터

이투데이(www.etoday.co.kr), 무단전재 및 수집, 재배포금지