‘개인정보 부실처리’ AI 이루다 개발사에 1억 과징금 철퇴

카톡 문장 94억 건 암호화 조치 안 해
AI 기업 무분별 개인정보 관리 첫 제재
"기업 관리·감독 강화하는 계기 삼아야"

윤종인 개인정보보호위원회 위원장이 개인정보보호위원회 제7회 전체회를 진행하고 있다. 개인정보보호위원회 제공

정부가 개인정보 유출 등의 논란을 일으킨 인공지능(AI) 대화 로봇(챗봇) ‘이루다’의 개발사에 1억330만 원의 과징금과 과태료를 부과했다. 4차 산업을 주도할 신기술로 각광받고 있는 AI 관련 기업의 무분별한 개인정보 처리를 제재한 첫 사례로, 업계에 경각심을 일깨울 것으로 보인다.

개인정보 보호 정책을 총괄하는 정부기관인 개인정보보호위원회는 28일 전체회의를 열어 이루다 개발사 ‘스캐터랩’에 8건의 개인정보 보호 법규 위반행위에 대한 과징금 5,550만 원과 과태료 4,780만 원을 부과하고 시정명령을 내렸다.

개인정보위 조사결과, 스캐터랩은 지난해 2월부터 올해 1월까지 자사의 앱 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 60만 명의 카카오톡 대화문장 94억 건에 대해 이름, 휴대폰 번호, 주소 등 개인정보를 삭제하거나 암호화하는 조치를 전혀 하지 않은 채, 페이스북 이용자 대상의 챗봇 서비스인 '이루다' 개발·운영에 이용한 것으로 확인됐다. 또 20대 여성의 카카오톡 대화 문장 1억 건을 응답 데이터베이스(DB)로 구축해 이루다가 챗봇으로 대화할 때 한 문장을 선택해 발화하도록 했다.

스캐터랩은 ‘텍스트앳’과 ‘연애의 과학’의 개인정보 처리방침에 ‘신규 서비스 개발’을 포함시켜 이용자가 로그인하면 동의한 것으로 간주했지만, 개인정보위는 이것만으론 이용자가 '이루다'와 같은 신규 서비스 개발에 동의했다고 보기 어렵다고 판단했다. 또 ‘신규 서비스 개발’이라고만 기재돼 이용자가 ‘이루다’ 개발과 운영에 카카오톡 대화가 이용될 것으로 예상하기도 어려워 스캐터랩이 이용자 개인정보를 수집한 목적을 벗어나 이용한 것으로 판단했다.

스캐터랩 개발자들이 2019년 10월부터 올해 1월까지 협업 사이트에 이름(22건, 성은 미포함)과 지명 정보(34건, 구·동 단위), 성별, 대화 상대방과의 관계(친구 또는 연인) 등이 포함된 카카오톡 대화문장 1,431건을 AI 모델과 함께 게시한 것도 확인됐다. 이는 가명 정보를 불특정 다수에게 제공하면서 특정 개인을 식별할 수 있는 정보가 포함돼 개인정보 보호법 위반이라고 판단했다.

이밖에 △법정대리인 동의 없이 만 14세 미만 아동의 개인정보 수집 △회원 탈퇴한 자의 개인정보를 파기하지 않은 행위 △성생활 등에 관한 정보를 처리하면서 별도 동의를 받지 않은 행위 △1년 이상 서비스 미사용자의 개인정보를 파기하거나 분리·보관하지 않은 행위 등도 적발됐다.

윤종인 위원장은 “이루다 사건은 전문가들조차 의견이 일치되지 않아 어느 때보다 격렬한 논쟁이 있었고, 매우 신중한 검토를 거쳐 결정됐다”며 “이번 결정이 AI 기업이 개인정보를 이용할 때 올바른 처리 방향을 제시하는 길잡이가 되고, 기업이 스스로 관리·감독을 강화해 나가는 계기가 되기를 바란다”고 말했다.

업계는 이번 결정에 자성의 목소리를 내고 있다. 한 스타트업 관계자는 “적은 인력과 자본으로 시작하는 스타트업은 서비스 기획 과정에서 법적인 문제를 꼼꼼히 확인하지 않는 경향이 있다”며 “기술 개발을 이유로 개인 정보와 사람의 감성을 자세한 설명이나 동의 없이 사용해온 관행에 경종을 울릴 것”이라고 말했다.

박민식 기자 bemyself@hankookilbo.com