AI로 개인정보 무단 수집 첫 제재…‘이루다’ 개발사에 1억원대 과징금·과태료

개인정보위, AI 기술 기업의 무분별한 개인정보 처리에 제동

[경향신문]

인공지능(AI) 챗봇 ‘이루다’ 개발사가 개인정보보호법 위반으로 모두 1억330만원의 과징금과 과태료를 부과받았다.

개인정보보호위원회(개인정보위)는 28일 전체회의를 열어 이루다 개발사 ‘스캐터랩’의 개인정보보호 법규 위반행위에 대한 시정조치 안건을 논의하고 과징금 5550만원과 과태료 4780만원 등 총 1억330만원을 부과하기로 결정했다. 정부가 AI 기술을 활용하는 기업의 무분별한 개인정보 처리를 제재한 첫 사례다.

스캐터랩이 지난해 12월23일 출시한 이루다는 페이스북 이용자를 대상으로 한 AI 챗봇이다. 출시와 함께 큰 화제를 모았으나, 소수자에 대한 혐오 발언 및 개인정보 무단 사용 등의 논란에 휩싸였고, 출시 21일 만인 지난 1월12일 서비스를 중단했다.

개인정보위는 스캐터랩이 이루다 개발·서비스 과정에서 정보 주체의 동의 없이 개인정보를 수집하고 수집 목적 외로 활용했다고 봤다.

개인정보위는 스캐터랩이 자사 앱서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 이용자 60만명의 카카오톡 대화 문장 94억건을 이루다의 개발·운영에 이용하는 과정에서 정보 주체가 명확히 인지할 수 있도록 알리고 동의를 받지 않은 것으로 판단했다. 텍스트앳과 ‘연애의 과학’ 개인정보처리방침에 ‘신규 서비스 개발’ 문구를 포함시켰으나 이용자가 이에 동의하는 것만으로는 이루다 같은 AI 챗봇 서비스 개발에 동의했다고 보기 어렵다고 본 것이다. ‘연애의 과학’ 사용자 300여명은 지난 2월 스캐터랩을 상대로 집단소송을 제기했다.

스캐터랩이 개발자들이 오픈소스를 공유하는 플랫폼 ‘깃허브(GitHub)’에 카카오톡 대화 문장 1431건과 AI 모델을 게시한 것도 법 위반으로 판단했다.

또 법정대리인 동의 없이 14세 미만 아동의 개인정보를 수집한 행위, 성생활 등에 관한 정보를 처리하면서 별도 동의를 받지 않은 행위 등도 모두 법 위반으로 인정했다.

윤종인 개인정보위원장은 “이번 처분 결과가 AI 기술 기업이 개인정보를 이용할 때 올바른 개인정보 처리 방향을 제시하는 길잡이가 되고, 기업이 스스로 관리·감독을 강화해 나가는 계기가 되기를 바란다”고 말했다.

김종윤 스캐터랩 대표는 이날 전체위원회에 참석해 “저희가 안이하게 생각한 부분이 있다”며 “개선작업을 하겠다는 약속을 드린다”고 말했다.

홍진수 기자 soo43@kyunghyang.com

▶ [인터랙티브] 나의 탄소발자국은 얼마?
▶ 경향신문 바로가기
▶ 경향신문 구독신청하기

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지