‘제2의 이루다 사태’ 없도록…스캐터랩, AI 챗봇 윤리점검표 발표

스캐터랩, 과기정통부와 개별 기업 1호 윤리점검표 확정

AI 챗봇 서비스 ‘이루다’. 스캐터랩 제공

인공지능(AI) 챗봇 서비스 ‘이루다’를 제작한 스캐터랩이 정부와 함께 ‘AI 챗봇 윤리점검표’를 최종 마련했다. 지난해 개인정보 유출과 성희롱 논란 등으로 이루다 서비스를 일시 중단했던 스캐터랩의 반성문인 셈이다.

스캐터랩은 과학기술정보통신부와 정보통신정책연구원(KISDI)과 협업해 개별 기업 특화 윤리점검표 1호로 ‘스캐터랩 AI 챗봇 윤리점검표’ 최종안을 발표했다고 26일 밝혔다. 스캐터랩은 지난해 1월 ‘이루다 1.0’ 서비스가 AI 윤리 논란으로 중단된 이후 개인정보 보호 체계 강화와 AI 윤리 실천 노력을 이어왔다.

이번 점검표엔 스캐터랩이 AI 챗봇을 기획·개발·운영하는 전 단계에서 AI 윤리가 실현될 수 있도록 총 21개의 실질적인 점검 항목이 담겼다. ▲AI 10대 윤리기준의 ‘인권보장’, ‘다양성’, ‘투명성’에 따라 AI 챗봇이 사람들의 삶에 도움이 되는 소통 경험을 제공할 수 있도록 하는지 ▲편향이나 차별적인 대화가 발견될 경우 검토와 평가 후 반영할 수 있는 일련의 절차가 준비되어 있는지 ▲알고리즘의 원리 또는 데이터 수집 방법 등 필요한 정보를 충분히 제공하고 있는지 등이다.

스캐터랩 AI 챗봇 윤리점검표. 스캐터랩 제공

스캐터랩 김종윤 대표는 “작년 ‘이루다’가 직면했던 문제와 그 이후 스캐터랩의 해결 방법 모색 과정이 AI 산업과 우리 사회의 자산으로 공유될 수 있도록 윤리점검표를 만들었다“면서 “이루다가 우리 사회의 보편적인 윤리를 지향하면서 누구에게나 친근한 대화가 가능한 친구로서의 존재가 될 수 있도록 지속해서 노력하겠다”고 말했다.

KISDI 문정욱 지능정보사회정책센터장은 “AI의 기술발전과 윤리확보라는 두 마리 토끼를 동시에 잡기 위해서는 법적 규제를 당장 도입하기보다는 기업 스스로가 AI 윤리 확보를 위해 노력하는 것이 중요하다” 면서 “스캐터랩의 이번 윤리점검표 개발을 비롯한 노력이 국내 산업계 전반으로 확산되는 계기가 되기를 바란다”라고 밝혔다.

스캐터랩은 딥러닝 기술을 활용한 ‘관계 지향형 AI 챗봇’을 개발하고 있는 스타트업이다. 스캐터랩은 지난해 초 서비스를 중단했던 이루다에 AI 윤리를 강화해 올 3월 2.0 버전으로 재출시해 오픈 베타 테스트를 진행하고 있다.

나상현 기자

▶ 밀리터리 인사이드

- 저작권자 ⓒ 서울신문사 -