유발 하라리 “AI 경쟁, 국가 간 착취 가능성…인간 불신이 위험 키워”

유발 하라리 20일 방한 기자간담회

AI는 이전 과학 혁명과 차원 달라

인류의 ‘도구’ 수준 넘어서

위험성 대비 필요하지만

‘인간 불신’ 경쟁으로 맹목적 개발

“AI를 몇몇 국가가 독점하면 19세기 산업혁명 때처럼 나머지 국가를 정복하고 착취할지도 모른다.”

20일 서울 종로구 노무현시민센터에서 진행한 기자간담회에서 유발 하라리 작가는 위와 같은 우려를 표했다. 그는 “AI에서 앞서는 국가가 군사·경제적으로 타국을 압도하면서 세계를 AI 제국화할 수 있다”고 경고했다.

유발 하라리 작가가 20일 서울 종로구 노무현시민센터에서 열린 신간 '넥서스' 출간 기자간담회에서 인사말을 하고 있다. 연합뉴스

유발 하라리의 방한은 이번이 3번째다. 그는 “코로나19와 이스라엘 민주주의가 파괴될 위기, 최근 하마스와의 전쟁으로 방문이 늦어졌다”고 설명했다. 전 세계적 안보 불안이 많은 이들의 삶을 위협하고 있으며, AI 역시 그런 불안의 한 축이라고 꼬집었다.

유발 하라리는 AI 위험에 대한 대비 없는 너무 빠른 발전을 우려했다. 지금까지의 인류 발명품은 모두 인류가 사용하는 ‘도구’였으나 AI는 그 범주를 넘어섰다는 것. 그는 “AI 발명은 이전의 과학 혁명과 완전히 다르다. 기존 발명품처럼 인간이 통제할 수 있다고 생각한다면 그건 AI를 전혀 이해하지 못한 것”이라며 “고도의 지능을 갖춘 독립 행위 주체자들을 세상에 풀어놓는 것과 같다”고 설명했다.

이런 위험성에도 글로벌 빅테크기업들이 AI 개발에 몰두하는 이유로는 ‘인간 상호 불신’을 꼽았다. 그는 직접 만나본 글로벌 빅테크기업 대표들은 모두 AI의 위험성을 우려하고 있다면서도 그럼에도 그들은 “인간 경쟁자들을 신뢰하지 못하겠다. 경쟁에서 지면 그들이 세상을 통치하게 될 것”이라며 불안해하고 있다고 말한다. “같은 인간은 못 믿으면서, 에일리언 같은 AI는 믿을 수 있다고 한다”고 부연했다.

유발 하라리는 AI에 대한 통제 필요성을 역설했다. 그는 “인류 역사상 그 어느 때보다 정보기술은 고도화됐으나 사람 간 대화는 더 어려워졌다”며 “SNS(사회관계망서비스)에서 챗봇이나 알고리즘이 가짜뉴스를 의도적으로 퍼뜨리면서 인간 신뢰를 무너뜨리고 있다”고 지적했다.

최근 국내 계엄 사태 관련해선 “처음엔 북한에서 쿠데타가 일어났다는 줄 알고 ‘드디어’라고 생각했다”며 남한이라고 해도 그리 놀라운 일은 아니라고 했다. 그는 “민주주의 국가에선 역사적으로 집권 정당의 친위쿠데타가 훨씬 많았다”며 “많은 독재자가 처음엔 법을 이용해 권력을 잡았으나 이후에는 권력 유지를 위해 법을 파괴했다”고 설명했다. 유발 하라리는 한국 상황에 대해선 잘 모른다고 조심스러워하면서도 “역사적으로 독재자들은 언론과 법원을 파괴했다. 그런 상황에선 선거도 의미가 없다”고 분석했다.

정치가 리얼리티쇼처럼 변화하는 상황도 지적했다. 그는 “알고리즘은 진실에 관심이 없다. 분노, 욕심, 공포를 자극해 사용자 참여도를 높이려고만 한다”며 이런 면모가 정치 뉴스에서도 드러나고 있다고 진단했다. 그는 최근 트럼프 미국 대통령이 젤린스키 우크라이나 대통령과 회담하면서 “이건 대단한 TV(쇼)가 될 것이다. 장담한다”고 했던 내용을 거론하며 “정치인들의 말이 점점 사람들에게 충격을 주는 쪽으로 빠져들고 있다. 정치가 아니라 리얼리티 쇼”라고 평가했다.

다만 AI를 두려워하지는 말라고 조언했다. 긍정적인 방향으로 사용하면 신기술의 장점을 효과적으로 이용할 수 있다는 것이다. 그러면서 그는 정보 다이어트를 추천했다. “음식이 좋아도 과식은 몸에 좋지 않다. 정보도 언제, 어디서, 무엇을, 얼마나 먹을지 신경 써서 섭취하고, 이후 꼭 소화하는 시간을 가져야 한다”고 강조했다.

서믿음 기자 faith@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>