유발 하라리 “AI가 사람인 척하지 못하게 규제해야”

“인공지능(AI)과 관련해 즉시 시행할 수 있는 두 가지 규제가 있다. 첫째는 기업들이 제품에 책임을 지듯 알고리즘을 운영하는 기업들이 이로 인해 벌어진 일에 책임을 지게 하는 것. 둘째는 AI가 사람인 척하지 못하게 하는 것이다.”

세계적 베스트셀러 『사피엔스』의 저자 유발 하라리(48·예루살렘 히브리대 교수·사진)는 “AI에 대한 규제 이전에 AI 혁명이 뭔지, 지금 무슨 일이 일어나고 있는지 정확히 알아야 한다”면서도 이렇게 말했다. 신간 『넥서스』 출간을 계기로 15일 영상 간담회를 통해 한국 기자들의 질문에 답하면서다.

『넥서스』는 ‘정보 네트워크’라는 관점에서 민주주의·전체주의를 비롯해 인류 역사를 되짚으며 특히 AI에 대한 경고와 우려를 담았다. 책에는 페이스북 알고리즘이 이른바 ‘사용자 참여’ 극대화를 목표로 삼으며 미얀마에서 로힝야족에 대한 증오를 부추기는 게시물을 적극 추천한 일, GPT4가 온라인에서 시각장애인인 척하면서 인간의 도움을 얻어 과제를 푼 일도 나온다.

하라리는 간담회에서 “현재 전 세계 민주주의 국가에서 공론장이 무너지고 이성적 대화가 힘들어지고 있다”며 “알고리즘과 봇(bot)이 인간의 대화에 끼어들어 음모이론, 가짜뉴스, 분노를 자극하는 콘텐트 등을 부추기고 있다”고 말했다.

그는 특히 극소수의 기업과 미국·중국 등 극소수 정부만이 AI 기술을 보유하고 있는 지금의 상황을 두고 “산업혁명 당시 앞선 기술을 가진 소수의 나라들이 전 세계를 지배하고 침탈했던 것과 비슷한 문제가 21세기에 또 일어나지 않을까 하는 우려가 있다”고 말했다. 이런 기업·정부가 제공하는 AI 관련 정보가 신뢰할 수 있는 것인지를 비롯해 규제 이전에 정확한 이해를 위해 국제기구를 만들어야 한다는 것이 그의 주장이다.

이후남 기자 hoonam@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지