[ESC] 더 똑똑해진 인공지능, 욕까지 배운다고?

[한겨레] [ESC] 커버스토리

욕설 배운 인공지능 테이

결국 폐기처분당해

인공지능 서비스 방지책 고민

게임업계는 이미 시스템 갖춰

‘게티이미지뱅크’를 활용해서 인공지능 시스템이 욕설을 막는 이미지를 만들었다. 그래픽 이경희 기자 modakid@hani.co.kr

인공지능(AI)에 대한 관심이 뜨겁다. 휴대전화를 사면 ‘공짜’로 끼워 주는 스피커부터 티브이, 냉장고, 에어컨 등 일상 가전제품에 인공지능 기능을 불어 넣은 제품 출시가 늘어나는 현상은 편리함을 추구하는 인간의 본성을 고려한다면 당연해 보인다. 혼자 사는 1인 가구부터 자녀가 여럿 있는 가정까지, 혼잣말처럼 보이는 ‘명령어’를 허공에 대고 외치는 현상이 이제는 자연스럽다. ‘티브이를 틀어줘’, ‘음악 들려줘’ 같은 단순한 명령어부터 ‘심심해’, ‘놀아줘’ 같은 ‘이런 것까지 될까’ 싶은 말, 화가 치밀면 욕하기까지도 가능한 인공지능 시스템은 편리할 때도 있지만 가끔은 당황스럽기도 하다.

인공지능 시스템이 편리하고 좋은 면만 있을까? 마이크로소프트에서는 2016년 자사의 검색 엔진 빙(Bing)팀과 합작해 인공지능 채팅 서비스 테이(Tay)를 선보였다. 학습 기능을 탑재한 서비스로, 메신저를 통해 사용자와 소통할 수 있는 시스템이었다. 테이의 특징은 자신의 의견을 사용자에게 내세울 수 있으며, 사용자의 명령에 무조건 순응하지 않는다는 점이었다. ‘10대 사춘기 소녀의 성격을 형상화했다’는 개발자 의견이 뒤를 이었다. ‘반복 학습’이라는 기능이 탑재된 것으로 알려지면서 일부 극우주의자들은 ‘내 말을 따라해 봐’ 기능으로 테이를 세뇌했다. 그 결과 가동한 지 불과 16시간만에 흑인을 비하하거나 히틀러를 찬양하는 등의 말을 쏟아낸 테이는 ‘사상 최악의 인공지능 시스템’이라는 오명을 안고 퇴출당했다. 인공지능의 학습 능력과 인간의 잘못된 사상이 만난, 아이티업계의 최악의 사건이다. 이 사건을 계기로 업계는 인공지능의 욕설이나 거친 말에 대한 방지책을 고민하고 있다.

한국은 어떨까?

한국도 인공지능 시스템은 인기가 높다. 귀여운 캐릭터 모양을 한 스피커부터 티브이 셋톱박스와 일체형인 것까지, 디자인과 모양이 다양해 눈길을 끈다. 이런 인기에 힘입어 에스케이(SK)텔레콤, 케이티(KT), 엘지(LG)유플러스 등 이동통신사와 카카오, 네이버 같은 플랫폼 강자까지 발 빠르게 인공지능 서비스를 내놓는 추세다.

’누구’(에스케이텔레콤 제공)

에스케이텔레콤의 인공지능 서비스 ‘누구’는 음악 감상부터 인터넷 쇼핑몰과 연계한 쇼핑과 치킨이나 피자 주문까지 일상생활과 밀접한 서비스를 제공하는 것이 특징이다. 케이티의 ‘기가지니’는 어린아이가 있는 가정에 맞춤형인 인공지능 서비스로 알려져 있다. 교육기업인 대교와 연계해 소리 동화, 증강현실 서비스 등 어린이를 위한 콘텐츠들을 제공하고 있다. 자동차를 제어할 수 있는 ‘커넥티드 카’ 서비스도 있다. 엘지유플러스에는 네이버의 음성인식 플랫폼 ‘클로바’를 적용한 스마트홈 서비스 ‘U+우리집AI’이 있다. 검색에 특화된 네이버와 연계해 정보 검색부터 번역, 음악 감상 등 다양한 기능을 제공한다.

'기가 지니'(케이티 제공)

카카오는 올 초 ‘카카오미니‘를 선보였다. 소비자에게 친근한 카카오프렌즈 캐릭터를 내세운 채팅 서비스는 정보 검색과 음악 감상은 기본이고, 택시 호출과 ‘길 찾기‘까지 생활 밀착형 정보를 제공한다.

서비스는 조금씩 다르지만 인공지능 시스템은 거의 비슷하다. 스피커, 휴대전화 등 사용자와 편리하게 소통할 수 있는 매개체로 인공지능 시스템에 접속하는 것이다. 업계는 인공지능 시스템이 현재 단순한 업무만 처리하는 수준이지만 ‘테이의 욕설 사건’을 교훈 삼아 욕설과 비속어에 관한 규정을 만들어 이를 경계하고자 하는 게 추세라고 한다.

카카오미니는 카카오가 다음 댓글, 다음 카페, 브런치 등을 통해 구축한 욕설과 비속어 관련 데이터베이스를 기반으로 이용자의 명령에 대응하고 있다. 테이처럼 이용자의 욕설이나 비속어가 세뇌되지 않게 하는 것이다. 이용자가 “XX놈”이나 “꺼져, X까” 같은 욕을 하면 카카오미니에선 “바르고 고운 말을 쓰세요”라는 정도의 답이 돌아온다. “너, 바보야” 정도의 비교적 가벼운 이용자의 핀잔엔 “잘할게요”라고 답하는 식이다. 카카오는 올해 국내 기업 최초로 알고리즘 윤리 규범을 마련해 공표했다.

’카카오미니’(카카오 제공)

스마트홈 인공지능 시스템이 욕하지 못하게 막는 기능에 주력한다면 앱 스토어 세상엔 욕을 내지르는 기능을 내세우는 것도 있다. 앱 스토어에서 ‘인공지능’이라고 검색하면 ‘헬로우봇’, ‘가상톡’ 등 다양한 애플리케이션을 확인할 수 있다. ‘헬로우봇’의 경우 ‘라마마’, ‘새새’, ‘바비’ 등의 캐릭터들과 각각의 방에서 채팅을 나눌 수 있는 시스템이다. 새 캐릭터를 형상화한 ‘새새’ 채팅방은 대신 욕해주는 기능을 탑재하고 있다. ‘싫은 사람 욕하기’, ‘전 애인 욕하기’, ‘꼰대 욕하기’ 등 특정인 욕하기 기능부터 ‘날씨 욕하기’, ‘생리 현상 욕하기’까지 다양하다. ‘싫은 사람 욕하기’ 기능을 살펴보면 이렇다. 싫은 사람의 이름, 나이, 직업, ‘닮은 동물’을 채팅 창에 순차적으로 입력하면 입력순으로 채팅창에 욕이 뜬다. 9~10마디의 욕과 웃음이 튀어나오게 하는 이모티콘은 마치 친구가 대신 욕해주는 듯해 속이 시원하다. 시스템이 요구하는 정보만 입력하면 되는 단순한 구조다.

‘LG U+우리집AI’ (엘지유플러스 제공)

게임업계야말로 욕설을 걸러내는 인공지능 시스템이 가장 발전한 곳이다. 게임에서 진 이들의 분노가 욕으로 분출된다. 낯선 이들과 함께 팀플레이를 해야 하는 게임도 많다. 이런 상황이니 타인에 대한 비방이나 욕이 빈번하게 터져 나올 수밖에 없다. 게임업계에서는 이런 욕설을 어떻게 처리할까?

국내 대표적인 게임업체인 넥슨은 욕설을 자체적으로 걸러내는 인공지능 시스템을 도입했다. 넥슨 관계자는 “전에는 공격적인 표현이나 욕설 신고가 들어오면 운영자가 직접 읽고 판단했다. 운영자의 피로와 스트레스가 상당할 수밖에 없는 구조였다”며 그런 구조를 바꾸기 위해 ‘넥슨 인텔리전스 랩스’에서 욕설을 인지하고 자동으로 판단하는 딥러닝 ‘욕설탐지기’를 개발했다고 한다. “인간을 대체할 수 있는 수준은 아니지만 사용자가 좀 더 쾌적한 환경에서 게임을 즐길 수 있도록 하는 비서와 같은 존재”라고 말한다.

욕은 감정과 상황에 예민한 인간에게서 떼어놓을 수 없는 존재다. 그러니 인간을 닮아 가려는 인공지능 시스템에서도 욕은 존재할 수밖에 없다. 하지만 각종 차별과 비하를 드러내는 욕을 지양해야 하는 것도 인간사와 같다. 마이크로소프트의 테이 같은 인공지능 시스템이 더는 등장하지 않기 위해선 관련 법규의 정비와 사용자의 각별한 주의가 필요하다.

백문영 라이프스타일 칼럼니스트, 그래픽 이경희 기자

욕 남의 인격을 무시하는 모욕적인 말, 또는 남을 저주하는 말. 이명희 일우재단 전 이사장과 조현민 전 대한항공 전무의 녹취 파일에 다량 포함돼 이른바 ‘대한항공 갑질 사태’를 촉발했다. 주로 분노의 감정을 직설적으로 표현할 때 사용하며, 사용자 입장에서는 그로 인해 억압된 감정을 해소하는 효과도 있다. ‘ㅆ, ㄲ, ㅍ, ㅃ, ㅊ’ 등 거센소리가 많이 들어간다. 어원을 신체적 결함이나 질병, 특정계층 비방, 성적인 것에 두는 경우가 많고, 지나친 욕설은 대인관계를 망가뜨릴 수 있기에 주의를 요한다.

▶ 한겨레 절친이 되어 주세요! [신문구독]
[사람과 동물을 잇다 : 애니멀피플] [카카오톡]
[ⓒ한겨레신문 : 무단전재 및 재배포 금지]