`신뢰 회복` 꺼낸 유발 하라리 “AI 믿는 신뢰의 역설” 경고

20일 ‘넥서스’ 출간 내한 간담회

2017년 이후 서울 다시 찾아

민주주의 핵신은 언론 자유·사법부 독립

[이데일리 김미경 기자] “갈등과 불신 속에서 탄생한(학습한) 인공지능(AI)은 신뢰할 수 없죠. 인간의 신뢰 회복이 먼저입니다.”

유발 하라리 작가가 20일 서울 종로구 노무현시민센터에서 열린 신간 ‘넥서스’ 출간 기자간담회에서 인사말을 하고 있다. (사진=연합뉴스).

베스트셀러 ‘사피엔스’ ‘넥서스’ 등을 집필한 역사학자 유발 하라리(49)는 20일 서울 종로구 노무현시민센터에서 기자들과 만나 ‘신뢰 회복’이라는 화두를 꺼냈다.

지난해 말 출간한 ‘넥서스’(김영사) 홍보차 한국을 찾은 그는 “인류 역사상 어느 때보다 고도화된 AI의 위험성을 막기 위해 모두가 협력해야 할 때에 인간은 서로에 대한 신뢰를 너무 빨리 상실하고 있다”며 이렇게 역설했다.

신간 ‘넥서스’는 지나치게 빨리 발전하고 있는 AI의 위험성을 언급한 책이다. 위험에 대한 대비 없이 지금의 속도로 AI가 발전을 거듭한다면 인간이 기술 통제력을 잃게 될 것이라는 경고다.

그는 “AI 발명은 이전의 과학 혁명과 완전히 다르다. 기존 발명품처럼 인간이 통제할 수 있다고 생각한다면 그건 AI를 전혀 이해하지 못한 것”이라며 “AI는 도구가 아니라 ‘행위 주체자’다. AI가 만들어 내는 무기는 누구를 폭격할지 결정할 수도 있고, 미래에 새로운 종교나 이념까지 만들 수 있다”고 경고했다.

이어 “많은 빅테크 기업이 경쟁에 뒤처질 수 있다는 불안감에 서둘러 AI기술을 개발하고 있는데, 이것이 인류의 멸종, 절멸로 이어질 수 있다”면서 “인간은 못 믿지만 AI를 믿는 ‘신뢰의 역설’이 발생한다. 우리가 해야 할 일은 많은 기업들이 서로 신뢰를 회복하고 AI 혁명이 안전하고 책임감 있게 진행되도록 기반을 만드는 것”이라고 부연했다.

하라리가 한국을 찾은 건 2017년 이후 8년 만이다. 코로나19와 하마스 전쟁 등으로 방문이 늦어졌다. 그는 계엄 사태와 관련해 묻자 “한국의 정치 상황을 잘 모르고 전문가도 아니다”라고 전제한 뒤 “권력 유지를 위해 벌이는 친위 쿠데타는 민주주의 사회에서 늘 있는 일”이라고 언급했다.

하라리에 따르면 군부가 탱크 등을 앞세워 권력을 새롭게 장악하는 쿠데타보다 집권 정부가 일으키는 쿠데타는 역사적으로 훨씬 잦다. 민주주의 사회에선 제한된 시간 내에서만 권력을 누릴 수 있기에 인물이나 정당이 권력을 돌려주기 싫으면 빈번히 법을 파괴하곤 한다는 것이다.

그는 “독재자를 꿈꾸는 많은 지도자는 매뉴얼을 지니고 있다. 일단 언론을 파괴하고, 독립된 법원을 파괴하면 마음대로 할 수 있다는 것”이라며 “자유언론과 독립적인 사법부가 없다면 선거는 마음대로 조종할 수 있다. 북한이나 러시아가 그 예”라고 했다. 그러면서 “집권층의 부패를 대중에게 알리기 위해선 언론의 자유가 필요하고, 정부를 견제하고 불상사를 예방하거나 중단시키기 위해선 사법부의 독립이 필요하다”고 강조했다.

정치가 리얼리티쇼처럼 변화하는 상황도 지적했다. 그는 “알고리즘은 진실에 관심이 없다. 분노, 욕심, 공포를 자극해 이용자 참여도를 높이려고만 한다”고 지적했다. 최근 트럼프 미국 대통령이 젤린스키 우크라이나 대통령과 회담이 대표적이다. 하라리는 “이건 대단한 TV(쇼)가 될 것”이라던 트럼프의 발언을 거론하며 “정치인들의 말이 점점 사람들에게 충격을 주는 쪽으로 빠져들고 있다. 정치가 아니라 쇼”라고 평가했다.

하라리는 AI가 만든 정보의 홍수 속에서 언론의 사실 확인과 ‘게이트 키핑’의 역할이 중요하다고 역설했다. 또한 의도적으로 정보를 차단하는 ‘정보 다이어트’도 제언했다. 그는 “과식하면 몸에 좋지 않듯 정보도 너무 많이 흡수하면 안 된다”면서 “정보를 제대로 흡수하려면 신경 써서 섭취하고 소화할 시간도 가져야 한다. 정보에 노출되는 시간을 줄이고 성찰하는 시간을 가져라”고 당부했다.