‘AI 이루다’ 혐오 논란에…이재웅 “서비스 중단해야”

[이데일리 김정유 기자] 인공지능(AI) 챗봇 ‘이루다’와 관련해 차별과 혐오 논란 등이 불거지고 있는 가운데 이재웅 전 쏘카 대표(다음 창업자)가 “지금은 서비스를 중단하고 차별화 혐오에 대한 사회적 감사를 통과한 후 서비스를 해야 한다”고 주장했다.

이 전 대표는 9일 자신의 페이스북에 “AI 챗봇 이루다의 더 큰 문제는 이를 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라며 “기본적으로 차별과 혐오는 걸러냈어야 한다. 편향된 학습데이터면 보완하든가, 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못하게 해야한다”고 목소리를 높였다.

앞서 AI전문기업 스캐터랩이 지난달 23일 출시한 이루다는 AI 챗봇으로 최근 성희롱 논란에 휩싸여 있다. 일부 남성 사용자들이 20대 여대생으로 설정된 이루다에게 성희롱적 대화를 걸고 이를 남초 사이트 등에 공유하면서 불거졌다. 일부는 나치의 유대인 학살처럼 반인륜적인 행위를 합리화하는 대화를 시도하기도 했다. 최근에는 성소수자에 대해 혐오 발언까지 나오면서 이루다는 IT업계의 뜨거운 감자로 떠올랐다.

이루다는 머신러닝을 통해 언어를 배워나가는 AI다. 자칫 혐오와 차별이 가득한 대화를 반복하다가 AI를 통한 또 다른 피해가 발생할 수 있다는 우려가 나오는 이유다.

이 전 대표는 AI 서비스에 있어 차별과 혐오를 표현하지 못하도록 강제해야 한다고 주장했다. 그는 “장혜영 의원이 발의한 차별금지법이 제정된다면 AI면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다”며 “AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안 된다”고 지적했다. 이어 “AI가 완벽하지 않고 사회 수준을 반영할 수밖에 없지만, 사회적으로 합의가 이뤄져 차별, 혐오는 금지해야 한다”고 덧붙였다.

이 같은 이유로 이루다도 일단은 서비스를 중단해야 한다는 게 이 전 대표의 주장이다. 그는 “AI 이루다 서비스는 AI기술적 측면에서 봤을 땐 커다란 진일보이지만, 지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후 서비스를 해야 한다”고 말했다.

한편 2011년 창업한 스케터랩은 2013년 카카오톡 기반 감정 분석 서비스를 내놓은 이후 대화형 AI 챗봇 기술을 개발해 왔다. 최근엔 소프트뱅크밴처스 등의 투자를 받았다.

AI 챗봇 이루다.