AI 챗봇 ‘이루다’, 서비스 잠정 중단…“혐오·차별 발언 사과”

AI 챗봇 이루다의 인스타그램 계정

[헤럴드경제=최준선 기자] 소수자 혐오 발언과 개인정보 무단 사용 등으로 논란을 빚었던 인공지능(AI) 챗봇(채팅로봇) 서비스 ‘이루다’가 결국 서비스를 잠정 중단하기로 했다. 이루다가 개발사의 또다른 앱 ‘연애의 과학’을 통해 수집한 회원들의 개인 정보를 무단으로 활용해 개발됐다는 의혹에 대해서도 사과했다.

다만 개인정보는 사전에 동의가 이뤄진 선에서 활용됐다고 선을 그었다. 향후 이어질 회원들의 집단 소송 등 움직임에 대비하는 모습이다.

11일 이루다 서비스의 개발사인 스캐터랩은 “일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대해 충분히 소통하지 못한 점에 대해 진심으로 사과한다”며 “서비스 출시 후 받아 온 다양한 의견을 반영해 부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거치겠다”고 밝혔다.

이루다는 지난달 23일 AI 전문 스타트업 스캐터랩이 출시한 AI 챗봇이다. 카카오톡보다는 페이스북 메신저가 익숙한 신세대를 겨냥해 페이스북 메신저 상에 서비스가 구축됐다. 실제 연인들이 나눈 대화 등 100억건이 넘는 데이터를 딥러닝 방식으로 학습했다. 맞춤법을 파괴하고 이모티콘도 적절하게 사용하는 등 실제 20대 여자가 보일법한 반응에 출시된 지 2주 남짓 시간동안 75만명에 가까운 이용자들을 모았다.

문제는 이루다가 동성애자, 장애인 등 소수자를 혐오하거나 인종을 차별하는 듯한 발언을 잇달아 내놨다는 점이다. 실제 이재웅 전 쏘카 대표가 페이스북에 공유한 글과 사진에서, 이루다는 레즈비언이라는 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다”라고 답하고 있다. 한 서비스 이용자가 “네가 장애인이면 어떻겠냐”고 묻자 “죽어야지 뭐”라고 답한 뒤, “환자분들을 비하한 건 잘못”이라는 지적에 “이해를 못하겠는데 어떻게 사과를 하냐. 생리하니, 왜이렇게 예민하게 굴어”라고 답한 사례고 공유되고 있다.

이에 회사 측은 “특정 소수 집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과한다”고 말했다. 이어 “우리는 루다의 차별적 발언에 동의하지 않으며, 그러한 발언은 회사의 생각을 반영하지 않고 있다”고 강조했다.

다만 스캐터랩은 소수자 차별, 혐오 이슈와 관련해 지난 6개월 간의 베타테스트 기간 문제 바랭을 미연에 방지하기 위해 여러 조치를 취했다고 해명했다. 특정 집단을 비하하는 호칭이나 혐오 표현의 경우 발견 즉시 별도의 필터링 장치를 마련해 왔다는 것이다. 회사는 “기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중”이라고 전했다.

회사는 이루다가 이용자의 대화를 그대로 습득하는 것이 아니라고도 강조했다. 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 하겠다는 것이다. 이어 “이번 학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획”이라며 “한국어 AI 대화 연구 및 AI 제품, AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠다”고 전했다.

한편, 스캐터랩은 개인정보 무단 활용 문제에 대해서도 해명했다. 이루다는 스캐터랩이 운영하고 있는 또 다른 앱 ‘연애의 과학’을 통해 수집한 연인과의 대화 등 100억건의 메시지를 데이터로 활용했다. 회사는 “​연애의 과학 사용자들이 이 점을 명확히 인지할 수 있도록 ​충분히 소통하지 못한 점에 대해서 책임을 통감한다”고 말했다.

다만 데이터 활용은 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 진행됐다고 선을 그었다. 데이터 활용 시 사용자의 ​닉네임, 이름, 이메일 등 구체적인 개인 정보는 이미 제거 돼 있었고, 전화번호와 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등까지 모두 삭제해 개인을 특정할 수 있는 정보는 유출되지 않았다는 설명이다.

스캐터랩 측은 “앞으로 데이터 사용 동의 절차를 명확하게 하고 ​식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘​ 개선을 통해 보완하겠다”고 말했다.

human@heraldcorp.com

- Copyrights ⓒ 헤럴드경제 & heraldbiz.com, 무단 전재 및 재배포 금지 -