카톡 개인정보 무단 사용…‘못된 AI’ 이루다에 1억원 과징금

[헤럴드경제=김민지 기자] 인공지능(AI) 챗봇 ‘이루다’ 개발사 스캐터랩에 1억 330만원의 과징금과 과태료 등이 부과됐다. 이는 AI 기술 기업의 무분별한 개인정보 처리를 제재한 첫 사례다.

스캐터랩은 약 60만명에 달하는 이용자의 카카오톡 대화문장 94억 여건과 20대 여성의 카카오톡 대화문장 약 1억 건을 개인정보 수집 목적을 벗어나 이용한 것으로 나타났다.

개인정보보호위원회(이하 개인정보위)는 28일 전체회의를 열고 챗봇 ‘이루다’ 개발사 스캐터랩에 대해 총 1억 330만원의 과징금과 과태료 등을 부과하기로 했다고 밝혔다.

개인정보위에 따르면, 스캐터랩은 ‘이루다’ AI 모델의 개발을 위한 알고리즘 학습 과정에서, 카카오톡 대화에 포함된 이름, 휴대전화번호, 주소 등의 개인정보를 삭제하거나 암호화하는 등의 조치를 전혀 하지 않았다.

스캐터랩이 이용한 데이터는 약 60만 명에 달하는 이용자의 카카오톡 대화문장 94억여 건이었다.

또한, ‘이루다’ 서비스 운영 과정에서 20대 여성의 카카오톡 대화문장 약 1억 건을 응답 DB로 구축하고, ‘이루다’가 이 중 한 문장을 선택하여 발화할 수 있도록 운영했다.

개인정보위는 스캐터랩이 이와 같이 ’이루다‘ 서비스 개발과 운영에 이용자의 카카오톡 대화를 이용한 것에 대해 개인정보를 수집한 목적을 벗어나 이용한 것이라고 판단했다.

개인정보위는 제재 이유에 대해 “‘텍스트앳’과 ‘연애의 과학’ 개인정보처리방침에 ‘신규 서비스 개발’을 포함시켜 이용자가 로그인함으로써 동의한 것으로 간주하는 것만으로는 이용자가 ‘이루다‘’와 같은 ‘신규 서비스 개발’ 목적의 이용에 동의하였다고 보기 어렵다”고 봤다.

또한, “‘신규 서비스 개발’이라는 기재만으로 이용자가 ‘이루다’ 개발과 운영에 카카오톡 대화가 이용될 것에 대해 예상하기도 어렵다”며 “이용자의 개인정보 자기결정권이 제한되는 등 이용자가 예측할 수 없는 손해를 입을 우려가 있다”고 설명했다.

개인정보위는 ‘이루다’와 관련된 사항을 포함, 총 8가지 개인정보 보호법 위반행위에 대해 스캐터랩에 총 1억 330만원의 과징금과 과태료를 부과하고 시정조치를 명령했다.

윤종인 개인정보보호위원회 위원장이 28일 오전 서울 종로구 정부서울청사에서 개인정보보호위원회 제7회 전체회의를 주재하고 있다. [개인정보보호위원회 제공]

윤종인 개인정보위 위원장은 “‘이루다’ 사건은 전문가들조차 의견이 일치되지 않아 그 어느 때보다도 격렬한 논쟁이 있었고, 매우 신중한 검토를 거쳐 결정됐다”며 “이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고, 개인정보 처리에 대해 정보주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 했다는 점에 의미가 있다”고 밝혔다.

한편, 이루다는 스캐터랩이 지난해 12월 23일 출시한 AI 챗봇이다. 사용자들과 대화를 하면서 학습하는 딥러닝 기술 기반으로 개발됐다. 나이는 20세, 여성으로 설정됐으며 국내서 나온 챗봇 중 가장 자연스러운 대화를 건넨다는 평가를 받았다.

그러나 출시 10여일만에 사용자로부터 성착취 대상으로 변질됐다는 논란이 일었다. 이어 이루다가 실제 카카오톡 사용자 대화를 학습하면서 사용됐던 데이터가 제대로 익명화되지 않아 개인정보유출 의혹까지 일었다.

스캐터랩은 상대방과의 카카오톡 대화를 제출하면 애정도 수치 등을 분석해주는 ‘연애의 과학’ 앱으로 인지도를 높인 업체다. AI 챗봇 이루다 개발에도 연애의 과학 앱을 통해 수집한 카톡 대화 약 100억건이 데이터로 쓰였다. 그러나 카카오톡 데이터를 제출한 연애의 과학 이용자들이 해당 데이터가 AI 챗봇에 활용된다는 점을 고지받지 못한 것으로 밝혀졌다.

jakmeen@heraldcorp.com

- Copyrights ⓒ 헤럴드경제 & heraldbiz.com, 무단 전재 및 재배포 금지 -