"인공지능이 사람인 척 하는 것부터 막아야" 유발 하라리

"그럼에도 즉시 시행할 수 있는 두 가지 규제가 있다. 첫째는 기업들이 제품에 책임을 지듯 알고리즘을 운영하는 기업들이 이로 인해 벌어진 일에 책임을 지게 하는 것. 둘째는 인공지능(AI)이 사람인 척하지 못하게 하는 것이다."

신간 '넥서스'를 펴낸 저자 유발 하라리. [사진 김영사]

세계적 베스트셀러『사피엔스』의 저자 유발 하라리(48, 예루살렘 히브리대 교수)는 "AI에 대한 규제 이전에 AI 혁명이 뭔지, 지금 무슨 일이 일어나고 있는지 정확히 알아야 한다"면서도 이렇게 말했다. 신간『넥서스』의 출간을 계기로 15일 영상 간담회를 통해 한국 기자들의 질문에 답하면서다.

『넥서스』는 '정보 네트워크'라는 관점에서 민주주의·전체주의를 비롯해 인류 역사를 되짚으며 특히 AI에 대한 경고와 우려를 담았다. 책에는 페이스북 알고리즘이 이른바 '사용자 참여' 극대화를 목표로 삼으며 미얀마에서 로힝야족에 대한 증오를 부추기는 게시물을 적극 추천한 일, GPT4가 온라인에서 시각장애인인 척하면서 인간의 도움을 얻어 과제를 푼 일도 나온다.

책표지

하라리는 간담회에서 "현재 전 세계 민주주의 국가에서 공론장이 무너지고 이성적 대화가 힘들어지고 있다"며 그 원인을 두고 "알고리즘과 봇(bot)이 인간의 대화에 끼어들어 음모이론, 가짜뉴스, 분노를 자극하는 콘텐트 등을 부추기고 있다"고 말했다. 그는 특히 극소수의 기업과 미국·중국 등 극소수 정부만이 AI 기술을 보유하고 있는 지금의 상황을 두고 "산업혁명 당시 앞선 기술을 가진 소수의 나라들이 전 세계를 지배하고 침탈했던 것과 비슷한 문제가 21세기에 또 일어나지 않을까 하는 우려가 있다"고 말했다. 이런 기업·정부가 제공하는 AI 관련 정보가 신뢰할 수 있는 것인지를 비롯해 규제 이전에 정확한 이해를 위해 국제기구를 만들어야 한다는 것이 그의 주장.

그는 또 "인공지능의 잠재적 위험에 더 취약한 것은 민주주의 국가보다 독재 정권"이라며 "한국 대통령이 AI의 통제에 놓인다고 해도 대통령을 견제하는 여러 민주적 장치들이 있는 것과 달리 AI가 김정은을 통제하게 되면 북한은 그 통제에 놓인다"고 말했다.

하라리는 이스라엘과 팔레스타인의 전쟁 상황과 관련해 "AI가 전쟁에 적극적으로 참여하고 있다. 그 중요한 부분은 AI가 타깃을 정한다는 것"이라며 "제대로 타깃을 정했는지, 국제법을 준수하는지 등을 체크하기가 점점 어려워지고 있다"고 지적했다. 이어 그는 "전쟁을 초래한 것은 AI가 아니라 인간이 가진 신화와 믿음"이라며 "신이 이 땅을 우리에게 주었고 다른 이들과 나눌 수 없다는 믿음이, 수 천 년 전의 신화적 이야기가 AI의 시대에도 여전히 우리 삶에 아주 중요한 관련이 있다"고 했다.

하라리는 "매일 6~8시간을 읽고 쓴다"면서도 "하루 두 시간 명상하고, 한 해 한두 달은 이메일과 심지어 책도 끊고 명상 휴가를 보낸다"고 소개했다. "그는 정보는 마음이 먹는 음식 같은 것"이라며 "음식을 너무 많이 먹으면 몸의 건강이 나빠지듯, 정보를 너무 많이 섭취하면 마음의 건강이 나빠진다. 마음이 숙고하고 소화할 시간이 필요하다"고 말했다.

AI 시대의 교육에 대해서는 "앞으로 20년 뒤에 직업 시장이 어떻게 될지 아무도 모른다"며 "어떤 스킬을 가르칠지 좁은 방식으로 접근하면, 컴퓨터 코딩을 가르친다면 20년 뒤에는 AI가 사람보다 훨씬 코딩을 잘해서 코딩하는 사람이 필요 없을 수 있다"고 말했다. 그는 "두뇌와 가슴과 손의 균형"을 강조하며 "지적인 스킬과 감정적·사회적 스킬과 신체적 스킬을 모두 갖춘 사람이 특정한 좁은 스킬을 하진 사람보다 어떤 직업을 갖거나 중요한 일을 맡을 확률이 높아질 것"이라고 말했다. 또 미래의 직업과 관련해 "계속 배우고 계속 변화하는 일을 평생 반복하고, 50세에 완전히 새로운 일을 하는 것이 흔해질 것"이라며 "그러기 위해서는 정신적 유연성이 굉장히 중요하다"고 강조했다.

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지