"AI 장밋빛 예찬 멈추라"는 유발 하라리..."정보를 내버려두면 진실이 진다" [책과 세상]

신작 '넥서스' 출간

유발 하라리 이스라엘 히브리대 교수는 최근 인공지능(AI) 혁명에 대한 역사적 관점을 담은 책 '넥서스'를 펴냈다. 김영사 제공

"힘 있는 사람들이 (장밋빛 전망에 도취돼) 인공지능(AI) 혁명을 인쇄혁명이나 산업혁명과 비교하는 것을 듣고 있기 힘들다."

전 세계 65개국에서 4,500만 부가 팔린 '사피엔스'로 큰 반향을 일으킨 역사학자 유발 하라리 이스라엘 히브리대 교수의 고백이다. 기술혁명 이후 인류의 미래를 점친 전작 '호모 데우스'로 그는 AI 전문가로서 명성을 쌓았다. 덕분에 AI 업계를 움직이는 과학자, 기업가, 정치인들과 교류하며 AI 혁명의 최전선을 들여다볼 기회를 얻었다.

그리고 책 '넥서스'를 썼다. "AI 혁명에 대한 보다 정확한 역사적 관점을 제공"하기 위해서다. 모두가 AI 전문가가 될 수는 없지만, 위험의 규모를 볼 때 AI는 모든 인간이 관심을 가져야 할 문제라고 하라리 교수는 역설한다. 최초의 컴퓨터가 만들어진 지 겨우 80년 만에 "역사에서 인류가 지배하는 장의 종말"을 맞을 수 있다는 강력한 경고와 함께.

"명심하라, AI는 도구가 아니라 행위자다"

제목 '넥서스'의 사전적 의미는 '연결'이다. 문자, 인쇄술, 라디오 등의 발명은 사람들이 서로 연결되는 방식을 혁명적으로 바꿨다. 일각에서 AI 혁명 역시 인류 미래에 희망을 드리울 것이라고 낙관하는 이유다. 하라리 교수의 견해는 다르다. 이런 "역사적 비교는 AI 혁명의 전례 없는 성격과 이전 혁명들의 부정적 측면을 과소평가"한다고 꼬집는다.

우선 인공지능을 넘어 '이질적 지능', '비인간 지능'으로까지 진화한 AI가 기존 정보기술과 어떻게 다른지 보여주면서다. 문자나 인쇄술, 라디오는 그저 정보를 전달하는 도구에 그쳤다. 이를테면 어떤 내용의 책을 찍어낼지 결정하고 실행에 옮기는 건 인간이다. 하지만 AI는 다르다. 스스로 결정하고 새로운 아이디어를 생성할 수 있는 능동적인 행위자다. "알고리즘은 2020년대 초반 이미 '가짜뉴스'와 음모론을 스스로 생성하는 단계로 옮겨 갔다"고 하라리 교수는 짚는다. 나아가 인간의 통제에서 벗어날 수도 있다.

미얀마 군부의 탄압을 피해 지난해 11월 16일 인도네시아 북서부 수마트라섬 인근 해역에 도착한 로힝야족 난민들이 현지 주민들로부터 식수와 음식을 건네받고 있다. 북아체=AFP 연합뉴스

2017년 미얀마 로힝야족 대학살은 그 위험성을 알린 대표적 예다. 당시 불교도가 다수였던 미얀마 군부는 소수민족인 무슬림 로힝야족 2만여 명을 살육했다. 이듬해 유엔 인권이사회 조사단은 페이스북이 로힝야족 증오를 퍼뜨려 야만적 인종청소 확산에 "결정적 역할"을 했다고 결론 냈다. 물론 페이스북이 혐오 콘텐츠를 생산한 건 아니었다. 그런 일은 인간이 했다.

하지만 '사용자 참여 극대화'를 목표로 하고 있는 페이스북의 알고리즘은 자비 가득한 불교 법문 대신 증오 콘텐츠를 반복적으로 추천했다. 어떤 콘텐츠가 사용자의 참여도를 높이는지 학습한 탓이다. AI는 인간 관리자의 명시적 명령 없이도 반(反)로힝야족 콘텐츠를 추천하기로 스스로 '결정'했다. "알고리즘은 인쇄기보다 신문 편집자에 더 가까웠다."

정보 그냥 두면 진실 확산될까? "역사를 봐라"

하라리 교수는 표현의 자유나 정보의 자유 시장을 내세워 AI 혁명을 옹호하는 기술 기업에도 일침을 가한다. '정보에 대한 순진한 관점'이라는 게 그의 지적이다. 중세 말 유럽의 마녀사냥에서 보듯 "모든 정보가 여과 없이 흐르도록 내버려두면 진실이 지는 경향"이 있다는 것. 인쇄술은 한편 마녀사냥 광풍을 불러온 사탄 음모론 확산의 주범이기도 했다.

넥서스·유발 하라리 지음·김명주 옮김·김영사 발행·684쪽·2만7,800원

그래서 중요한 것은 자정 장치다. 하라리 교수는 "아직은 통제권이 인간에게 있다"며 "저울을 진실 쪽으로 기울이려면 진실을 말하는 사람에게 보상을 제공하는 강력한 자정 장치를 개발하고 유지해야 한다"고 제언한다. 아울러 기술 회사들이 스스로를 규제하도록 맡겨서는 안 된다고도 상기시킨다. 공론장이 훼손되면 민주적 대화가 가로막히기 때문이다. 민주주의의 생존 자체가 걸린 문제다.

책의 견해는 크게 새롭지 않지만, 기대를 걸어 보고 싶다. '사피엔스'처럼 많은 이가 이 책을 읽는다면 인류는 미래를 위한 더 나은 선택을 할 수 있지 않을까. "21세기의 기술은 훨씬 더 강력하다. 그리고 훨씬 더 파괴적일 수 있다. 따라서 우리는 실수할 여유가 없다. 이번에는 더 잘해야 한다."

권영은 기자 you@hankookilbo.com