AI 챗봇 이루다, 17일 돌아온다… “개인정보 보호·어뷰징 대응 강화”

이루다. /스캐터랩 제공

인공지능(AI) 챗봇 ‘이루다’가 오는 17일 오픈 베타(공개 시범) 서비스로 돌아온다. 개발사 스캐터랩은 ‘이루다2.0′은 과거 논란이 됐던 개인정보 보호와 서비스 어뷰징(악용) 대응을 강화했다고 강조했다.

14일 스캐터랩에 따르면 이루다2.0은 딥러닝(심층학습)을 통해 ‘기계 생성 문장’ 방식으로 대화하는 방식으로 개편됐다. ‘연애의 과학’ 등 이루다가 참고한 데이터의 대화를 그대로 활용하는 게 아니라 대화를 이루는 단어의 패턴을 학습, 특정 단어 뒤에 올 단어를 확률적으로 분석해 단어를 엮어 문장을 만드는 방식을 채택했다는 것이다. 이를 통해 대화 속에 고객의 주소, 계좌번호 등 개인정보가 그대로 노출되는 일을 방지할 수 있다고 업체는 설명했다.

지난해 초 이루다가 출시됐을 때 이용자가 유도하는 대로 이루다가 대화를 학습해 인종과 젠더 관련 혐오 발언을 일삼도록 하는 어뷰징 사례도 따랐다. 스캐터랩은 ‘어뷰징 탐지 모델’을 개발, 이용자가 대화하는 모든 문장은 이 모델을 먼저 거쳐 선정적, 공격적, 편향적인 내용이 있을 경우 걸러내도록 했다. 이용자가 고의로 지속적인 어뷰징을 계속 시도할 경우 이용을 막는 조치도 내릴 예정이다.

스캐터랩은 지난 1월부터 약 8000명을 대상으로 이루다2.0의 클로즈 베타(비공개 시범) 서비스를 운영했다. 스캐터랩은 클로즈 베타 동안 오간 대화에서 이루다가 안전하게 말하는 비율인 ‘발화 안정성’은 99.75%, 적절하고 구체적인 대답을 하는 챗봇 성능 지표인 SSA는 78%를 기록했다고 전했다. 개인정보 침해 소지가 있는 문장은 한 건도 없었다고 강조했다.

이루다2.0은 오픈 베타 서비스를 거쳐 정식 출시된다. 이루다의 페이스북 계정을 친구등록하고 페이스북 메신저를 통해 대화할 수 있다. 이루다는 ‘선톡’(이용자에게 먼저 말을 거는 것)을 하고 대화 중 이미지도 첨부한다.

김종윤 스캐터랩 대표는 “이루다가 많은 사람들에게 소중한 친구로 남을 수 있도록 지속적으로 기술 개선에 노력할 계획이다”라며 “이를 위해 주기적으로 이루다의 어뷰징 대응 유효성을 확인하고 조치를 취하겠다”라고 말했다.

이루다2.0의 대화 예시. /스캐터랩 제공

이루다2.0의 대화 예시. /스캐터랩 제공

김윤수 기자(kysme@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>