유발 하라리 “AI, 인류 문명의 ‘마스터키’ 손에 넣어…통제 필요”

[AP]

[헤럴드경제=손미정 기자] 인공지능(AI) 챗봇 챗GPT 열풍이 식을 줄 모르는 가운데 역사학자이자 세계적 베스트셀러 작가인 유발 하라리가 AI의 위험성을 지적하며 AI 사용을 늦추면서 이에 대한 통제 방법을 찾아야 한다고 주장했다.

하라리는 24일(현지시간) 인도적 기술 센터 공동설립자인 트리스탄 해리스와 아자 라스킨와 뉴욕타임스(NYT) 공동기고문에서 “AI의 언어 습득은 AI가 문명의 운영 체제를 해킹하고 조작할 수 있게 됐음을 뜻한다”며 이같이 밝혔다.

이들은 GPT-4 이상 성능의 AI 시스템을 지나치게 빠르게 받아들여서는 안 된다며 AI 수용 속도를 기술 기업들의 시장 장악 경쟁에 맡겨서는 안된다고 강조했다. 다음 단계의 기술로 나아가기 이전에 인류가 AI를 잘 다룰 수 있는 능력을 갖추는 것이 이들의 주장이다.

필자들은 공상과학 소설에만 국한됐던 AI의 위험이 GPT-4과 같은 언어모델 개발을 계기로 현실화되고 있다면서, 언어가 인류 문화의 운영체제임을 감안하면 AI가 언어를 습득한 것은 인류 문명의 마스터키를 손에 넣은 것과 같다고 경고했다.

이들은 AI의 영향력이 예술과 정치, 종교까지 확대될 경우 새 문화 유물을 쏟아내는 것에서 더 나아가 2028년 미국 대선이 더는 사람이 주도하지 않는 선거가 될 수도 있다고 지적했다.

인류가 인간이 아닌 AI가 만든 콘텐츠에 둘러싸여 살아게 될 가능성도 있다. 그러면서 필자들은 AI가 만든 환상의 장막이 인류 전체에 드리워지고 우리는 그 장막을 걷어낼 수 없고 심지어 장막이 있다는 사실조차 깨닫지 못할 수도 있다고 경고했다.

또한 소셜미디어에 사용된 원시적 AI가 사회 양극화 심화, 정신건강 문제, 민주주의 혼란 등을 초래한 것을 고려할 때 훨씬 강력한 거대 언어모델 AI는 그보다 큰 부작용을 낳을 수 있다는 우려도 제기된다. 그러면서 필자들은 AI가 암 퇴치, 신약 발견, 기후·에너지 위기 해법 개발 등에 도움을 줄 잠재력이 있지만 문명의 기반이 무너진다면 AI의 혜택이 아무리 커도 소용이 없다고 지적했다.

신속하게 움직이지 않으면 서방이 중국에 패할 수 있지 않으냐는 의문에 대해서는 ‘아니다’고 선을 그었다. 오히려 통제되지 않는 AI가 신과 같은 힘을 무책임하게 휘두르는 것이 중국에 패하는 이유가 될 수 있다는 것이 필자들의 설명이다.

그러면서 이들은 민주주의는 곧 대화이고 대화는 언어에 의존한다는 점에서 언어 자체가 해킹당하면 대화가 무너지고 민주주의는 유지될 수 없다고도 경고했다. 정치, 경제, 일상생활이 아직 AI에 의존하지 않는 지금이 AI에 대해 고민해야 할 때라는 주장이다.

이들은 “AI의 뛰어난 능력이 상응하는 책임·통제와 조화를 이룰 때 우리는 그 혜택을 실현할 수 있다”며 이를 위한 첫걸음은 AI가 인간을 장악하기 전에 인간이 AI를 장악할 수 있게 시간을 버는 것이라고 강조했다.

balme@heraldcorp.com

Copyright ⓒ 헤럴드경제 All Rights Reserved.