유발 하라리 "AI발 가짜뉴스 경계해야"

초대형 베스트셀러 '사피엔스'를 쓴 작가 유발 하라리 이스라엘 히브리대 역사학과 교수(48)가 '닥터 둠'으로 변신했다. 6년 만에 새 책 '넥서스'(김영사)를 들고나온 하라리 교수는 "인공지능(AI)은 우리 종의 역사뿐만 아니라 모든 생명체의 진화 경로를 바꿀지도 모른다"고 경고했다. 책 제목 '넥서스(Nexus)'는 사전적으로 '결합' '연결'을 의미한다.

그는 수년 전부터 여러 강연과 토론을 통해 AI혁명에 반기를 든 대표적인 '비판론자'다. 하라리는 '사피엔스'에서 호모 사피엔스가 지구를 지배하게 된 것은 종교와 국가 같은 상상의 이야기를 만들어 대중의 협력을 끌어냈기 때문이라고 주장해 대중의 호평을 받았다. '호모 데우스'에서는 인류가 기술과 과학을 통해 신의 능력을 추구하게 되는 현상을 짚었다. 이번 책에서는 기술에 대해 훨씬 비관적인 시각을 담아냈다.

하라리가 이처럼 기술혁명에 대해 부정적으로 돌아선 것은 AI와 정보 네트워크 발전이 과거 기술과 본질적으로 다르다는 데 있다. 이전의 정보 기술인 점토판, 인쇄기, 라디오 등과 다르게 AI는 스스로 결정하고 새로운 아이디를 생성할 수 있는 능동적인 행위자다. 정보 네트워크와 AI의 결합은 인간이 가진 자율성과 결정권에 영향을 끼치면서 최악의 경우 인류 존속에 핵폭탄급 재앙을 안길 수 있다는 진단이다. 그는 에필로그에서 "호모 데우스 이후 갑자기 AI 전문가라는 평판을 얻게 됐다"며 "지난 8년 동안 AI의 위험성에 대해 수많은 토론을 했는데, 해가 갈수록 토론의 어조가 긴박해졌다"고 고백했다.

2016~2017년 미얀마에서 자행된 반로힝야 폭력 이면에는 페이스북 알고리즘이 중요한 역할을 했다. '사용자 참여 극대화'라는 목표를 부여받은 알고리즘에 따라 분노가 참여도를 높인다는 것을 학습한 알고리즘이 이용자의 분노를 자극하는 콘텐츠를 추천하기로 결정했다는 것이다. AI발 가짜뉴스를 생각하면 정보가 많다고 해서 진실에 접근하는 것은 아니라는 사실이 분명해진다.

[이향휘 선임기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]