“거짓말 정치인 대신할 인공지능 개발될 수 있나요?”

[한겨레] [사람과 디지털] 인공지능이 거짓말 없앨 수 있나

정보기술 발달에도 거짓 정보 기승

청문회에서 주요인사들 잇단 위증

페이스북은 가짜뉴스 확산 플랫폼

인공지능 활용해도 최종판단은 사람몫

기술악용 막으려면 기술 이해가 우선

초유의 국정농단 사태를 다루는 국회 청문회와 특검 수사에서 대통령을 비롯해 청와대 비서실장, 장관, 대학총장, 교수 등이 거짓말 경연을 벌이다 하나둘 들통나고 있다. 사진공동취재단

“거짓말하는 정치인들이 너무 많은데, 인공지능이 사람들을 대신해 정치를 하는 게 가능할까요?”

최근 과학기술자를 꿈꾸며 영재교육을 받고 있는 학생들과 인공지능을 주제로 대화하는 자리가 있었는데, 한 학생이 던진 질문이다. 탄핵당한 대통령을 비롯해 전직 청와대 비서실장, 장관, 차관 등 고위공직자는 물론이고 대학총장, 학장, 교수, 저명한 작가까지 태연한 표정으로 “모릅니다”, “그런 일 없습니다”라고 국민들 앞에서 공개적으로 거짓말을 하다가 위증으로 드러나 속속 구속되는 걸 본 학생들이다. 경비원, 운전기사, 계산원, 텔레마케터 등의 업무는 물론이고 기자, 작가, 약사, 의사 등 전문직의 영역으로 여겨온 일들이 인공지능에 의해 대체되는 현실을 보고 있는 학생들로서는 당연한 의문이다. 인공지능이 생계를 위해 성실히 일하는 사람들을 실업자로 만드는 대신, 거짓말과 비효율로 가득한 사람들의 정치를 대신 담당하면 어떨까라는 게 질문자의 제안이다. 초유의 국정농단 사태 속 ‘거짓말 경연’이 중계되고 있지만, 페이스북 가짜뉴스 사태에서 보듯 거짓말의 창궐은 한국만의 걱정거리도 아니다. 인공지능과 스마트폰 등 똑똑한 도구 덕분에 누구나 정보를 손쉽게 확인하고 공유할 수 있는 상황에서 왜 거짓말은 더욱 기승을 부리고 있는가.

# 기술은 거짓말 탐지에 도움 되나?

거짓말탐지기처럼 말하는 사람의 생리적 반응을 기반으로 거짓말일 가능성을 알려온 도구가 있지만, 최근에는 디지털 포렌식이 강력한 수사 도구이자 거짓말 적발기로 기능하고 있다. 디지털과 인터넷을 통해 소통과 업무가 이뤄지면서 문자메시지 앱, 소셜미디어, 스마트폰, 폐회로텔레비전(CCTV), 블랙박스 등에는 개인의 행적과 대화 내역이 상세하게 기록돼 있다. “기억나지 않습니다”, “모르는 사람입니다”라는 정치인들의 말이 거짓말로, 위증으로 드러나게 만드는 데 큰 도움을 주고 있다. 핵심적 진술 몇 개를 거짓으로 둘러대는 데 성공해도, 상충되는 정보가 너무 많아 계속된 거짓말과 기억 부재를 주장하는 게 이내 한계에 봉착한다. 최근 수사에서는 스마트폰, 태블릿피시, 문자메시지가 스모킹 건 구실을 하는 경우가 대부분이다. 하지만 디지털 수사 방식의 위력을 익히 알고 있는 김기춘, 조윤선, 우병우 등 법률전문가를 비롯한 일부 인사들은 다양한 방식으로 증거를 없애며 거짓말을 지속하는 경향이 있다. 대포폰을 쓰고, 하드디스크를 디가우싱해서 복구 불가능하게 만들고, 스마트폰을 바꿔 정보 접근을 차단하는 방법을 쓴다.

# 기계는 거짓말하지 않을까?

스탠리 큐브릭 감독의 <2001 스페이스 오디세이>에 등장하는 인공지능 할9000은 자기방어를 위해 사람들에게 거짓말을 하지만, 공상과학 영화의 상상이다. 기계가 오류나 잘못된 정보를 내놓을 수 있지만, 의도적인 거짓말은 사람만의 영역이었다. 하지만 최근 가짜뉴스가 창궐하고 있는 현실은 디지털 환경에서 거짓 정보의 생성과 확산이 기계에 의해 증폭되고 있음을 알려준다. 마이크로소프트가 지난해 3월 출시한 인공지능 채팅로봇 테이는 “9·11 테러는 유대인들이 일으킨 거야”, “홀로코스트는 조작된 거야”라는 둥의 막말과 거짓을 쏟아내다가 서비스 개시 하루 만에 퇴출당하기도 했다. 폴크스바겐은 디젤엔진의 연비를 높이기 위해 배출 가스 수치를 조작하는 소프트웨어를 탑재했다가 뒤늦게 들통나 전세계에서 환불과 리콜, 손해배상 소송에 직면해 있다.

최신 기술이 사람을 속인 사례들로 언급되는 경우지만, 기술이 의도를 갖고 사람을 기만한 게 아니다. 설계자가 사기극을 벌인 것이고, 가짜 뉴스가 자동 생성돼 페이스북에서 퍼진 것도 아니다. 개발자와 사용자들이 의도한 대로 기술은 작동했는데 많은 사람이 속았을 따름이다.

김경숙 전 이화여대 체육대학장이 지난달 15일 국회에서 열린 `박근혜 정부의 최순실 등 민간인에 의한 국정농단 의혹사건 진상규명 국정조사특별위원회 4차 청문회'에서 최순실씨 딸 정유라의 부정입학과 관련해 교육부 감사관(맨 뒷줄)들과 대질신문을 받고 있다. 오른쪽은 최경희 전 이화여대 총장. 이정우 선임기자 woo@hani.co.kr

# 똑똑한 기계는 거짓을 줄일까?

페이스북과 구글은 자신들이 가짜 뉴스 유통의 플랫폼이라는 비판에 개선책을 마련하겠다고 발표했는데 기술기반적 접근이다. 페이스북은 인공지능 기술을 활용해 이용자가 가짜 뉴스를 누르기 전에 가짜 뉴스임을 알려주는 표지를 달겠다고 밝혔다. 구글은 가짜 뉴스 사이트에 광고가 달리지 않도록 해 경제적 유인을 없애는 등의 알고리즘을 개선하겠다고 밝혔다. 가짜 뉴스를 적발하기 위해 인공지능 기술은 ‘사실 검증’(팩트체킹)에 뛰어들고 있다. 영국의 풀팩트라는 비영리단체는 정보기술과 알고리즘을 활용한 팩트체킹 기술을 개발해 보급 중이다. 접근 방법은 크게 두 가지로, 하나는 인공지능을 활용해 사실 여부를 확인하는 길이고 다른 방법은 방대한 데이터베이스를 구축한 뒤 사안별로 조회하는 길이다.

하지만 뉴스는 항상 객관적 관찰과 주관적 판단이 섞여 있기 때문에, 기계와 알고리즘의 역할은 제한적일 수밖에 없다. 사실을 검증해 거짓을 밝혀내는 작업 절차를 도구의 도움을 받아 간소화할 수 있으나, 최종적 판단은 사람의 몫이다. 미국의 미디어비평가 데이나 보이드도 가짜 뉴스의 폐해를 막는 길은 정보의 출처를 확인하고 정보가 누구에 의해 확산되고 누구의 이익을 위한 것인지를 묻는 미디어 읽기 능력을 기르는 고전적 방법이라고 말한다.

최근 거짓말과 가짜 뉴스는 기술을 나쁜 목적으로 이용하려는 사람들이 기존 법규와 시민들의 정보 수용 관행의 약점을 노린다는 게 공통점이다. 기술이 복잡해지고 똑똑해졌지만 기술 자체로 거짓말을 막지 못한다는 것을 알려준다. 기술이 거짓말쟁이들의 알리바이가 되는 걸 막으려면, 이용자들의 기술 이해가 더 깊어지고 악용을 처벌하기 위한 새로운 규약이 필요하다.

구본권 사람과디지털연구소장 starry9@hani.co.kr ▶ 한겨레 절친이 되어 주세요! [신문구독] [주주신청]
▶ [페이스북] [카카오톡] [정치BAR]
[ⓒ한겨레신문 : 무단전재 및 재배포 금지]