AI '이루다' 서비스 잠정 중단…혐오 발언·개인정보 논란 사과

[아시아경제 부애리 기자] 인공지능(AI) 챗봇 '이루다'가 동성애 혐오, 성차별, 개인정보 유출 논란에 휩싸인 가운데 개발사 측이 서비스 잠정 중단을 결정하고 공식 사과했다.

이루다를 개발한 스타트업 스캐터랩은 11일 오후 입장문을 내고 "이루다가 특정 소수 집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다"면서 "서비스 개선 기간을 거쳐 다시 찾아뵐 예정"이라고 밝혔다.

스캐터랩은 "특정 집단을 비하하는 호칭이나 혐오 표현의 경우 베타 테스트 기간 동안 발견 즉시 별도의 필터링을 진행했다"면서 "기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 개선 중"이라고 설명했다.

앞서 이루다는 대화 과정에서 차별적 의견이나 편견을 드러내면서 소셜네트워크서비스(SNS)와 주요 온라인커뮤니티 등에서 이루다의 발언을 두고 논쟁이 거셌다. 한 이용자가 레즈비언에 관해 질문하자 이루다는 '혐오스러워', '소름끼친다', '거부감이 든다'라고 답하면서 우려가 제기됐다. 또 '장애인이면?'이라는 질문에 '어쩔 수 없이 죽어야지'라고 답하거나, 지하철 임산부석에 대해서는 '혐오스럽다'라고 말하는가 하면 흑인에 대해 묻자 '징그럽게 생겼다'고 답해 논란이 됐다.

스캐터랩은 개인정보 활용 논란과 관련해서는 "이루다를 개발하는 과정에서 본사가 제공하고 있는 서비스 '연애의 과학'으로 수집한 메시지를 데이터로 활용했다"면서 "사전에 동의가 이뤄진 개인정보취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 이용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해 책임을 통감한다"고 밝혔다.

회사 측은 "데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거됐다"면서 "전화번호, 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 개인을 특정할 수 있는 정보는 유출되지 않았다"고 설명했다.

아울러 "향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다"고 강조했다.

스캐터랩은 "AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿는다"면서 "인간과 자유롭게 대화할 수 있는 AI가 앞으로 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바란다. 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다"고 덧붙였다.

부애리 기자 aeri345@asiae.co.kr
<ⓒ경제를 보는 눈, 세계를 보는 창 아시아경제(www.asiae.co.kr) 무단전재 배포금지>