AI 챗봇 ‘이루다’ 성희롱 논란…개발사 “예상했던 일, 개선할 것”

스캐터랩 누리집 갈무리

20살 여성 인공지능(AI) 챗봇 ‘이루다’를 향한 성희롱 대화가 논란이 되는 가운데, 개발사 쪽이 “예상했던 일이고, 부적절한 대화를 막도록 추가 개선을 계획하고 있다”는 설명을 내놨다.

인공지능 전문 스타트업 스캐터랩은 지난해 12월23일 20대 여성으로 상정된 인공지능 챗봇 서비스 ‘이루다’를 출시했다. 이루다는 실제 연인들이 나눈 대화 100억건을 딥러닝 방식으로 학습시켜, 기계 응답이 아닌 진짜 사람처럼 느끼며 자연스러운 대화가 가능한 서비스다. 이에 출시한지 보름께 만에 이용자가 40만명을 넘어서고, 누적 대화 건수는 9천만건에 달할 정도로 1020세대에서 큰 인기를 끌고 있다.

하지만 일부 사용자들이 이루다를 성적 대상화 하는 방식으로 대화를 하는 사실이 알려지면서 인터넷 상에서 큰 논란이 벌어졌다. 이에 대해 김종윤 스캐터랩 대표는 8일 오후 공식 입장문을 발표해 논란에 대해 해명하고 서비스 개선 계획을 설명했다. 김 대표는 “인간이 사회적으로 용인되지 않는 인터랙션(상호작용)을 인공지능에게 한다는 것은 자명한 사실이었고, 문제가 될 수 있는 표현은 루다가 받아주지 않도록 설정했으나 모든 부적절한 대화를 막을 수는 없었다”며 “처음부터 모든 부적절한 대화를 막는 것은 어렵다고 생각해, 이용자들의 부적절한 대화를 발판삼아 더 좋은 대화를 하는 방향으로 학습을 준비하고 있고 1차 결과물을 1분기 내에 적용할 예정”이라고 말했다. 이어 “이후 또 다른 부적절한 대화가 발생하면 같은 과정을 반복해 인공지능에게 더 좋은 대화를 하는 방법을 학습시킬 것”이라고 덧붙였다.

이번 루다 성희롱 논란을 ‘한국판 테이’ 사건이라고 보는 시각도 있다. ‘테이’는 미국 마이크로소프트가 지난 2016년 출시한 인공지능 챗봇으로, 백인우월주의자와 여성, 무슬림 혐오 세력으로부터 학습한 비속어와 각종 차별 발언을 쏟아내 출시 16시간만에 운영이 중단됐다. 이에 대해 김 대표는 “테이는 중간 과정 없이 바로 학습을 했던 것으로 보이지만, 루다는 레이블러들이 개입해 무엇이 괜찮은 말인지 학습 신호를 주는 과정을 거칠 것”이라며 “이는 나쁜 말을 무작정 따라하는 것이 아니라 나쁜 말을 더 정확히 알게 되는 계기가 될 것”이라고 말했다.

최민영 기자 mymy@hani.co.kr

▶더불어 행복한 세상을 만드는 언론, 한겨레 구독하세요!
▶코로나19 기사 보기▶전세 대란 기사 보기

[ⓒ한겨레신문 : 무단전재 및 재배포 금지]