“초지능AI 20년뒤면 등장, 인간 통제 강화해야”…노벨상 수상자의 우려 [팩플]

제프리 힌턴 토론토대 교수는 7일(현지시간) 스웨덴 왕립과학한림원에서 개최된 물리·화학·경제학 노벨상 수상자 공동 기자회견에서 “(AI에 대한) 통제력을 인간이 유지할 수 있을지 심각하게 걱정해야 한다”고 말했다. AFP=연합뉴스

인간이 인공지능(AI)에 대한 통제력을 잃지 않도록 해야 한다는 노벨상 수상자들의 잇따른 경고가 나왔다. 성능이 빠르게 개선되고, 적용 분야도 넓어지는 AI를 면밀히 규제해야 한다는 지적이다.

제프리 힌턴 토론토대 교수는 7일(현지시간) 스웨덴 왕립과학한림원에서 개최된 물리·화학·경제학 노벨상 수상자 공동 기자회견에서 “최근 개발 속도를 보면 (인간의 지능을 뛰어넘는) 초지능은 5~20년이면 개발 될 것”이라며 “(AI에 대한) 통제력을 유지할 수 있을지 심각하게 걱정해야 한다”고 말했다. 그러면서 “AI의 안전성을 보다 일찍 고민했으면 좋았을 것”이라고 덧붙였다. ‘AI 대부’로 불리는 힌턴 교수는 AI 기술인 ‘딥러닝(deep learning)’ 개발에 기여한 공로로 올해 노벨 물리학상을 존 홉필드 미국 프린스턴대 교수와 공동 수상했다.

올해 단백질 3차원 구조를 예측하는 AI 모델을 개발한 공로로 노벨 화학상을 공동 수상한 데미스 허사비스 구글 딥마인드 최고경영자(CEO)도 “AI는 규제가 필요한 중요한 기술이지만, 올바른 규제를 적용하는 것도 중요하다” 며 “AI 기술 발전 속도가 워낙 빨라 현재로서는 쉽지 않다”고 말했다. 그러면서 “각국 정부에 빠르고 민첩한 규제를 마련할 것을 조언하고 있다”고 말했다. 허사비스 CEO는 2016년 이세돌 9단과 바둑 대결을 한 AI 기술인 ‘알파고’의 개발을 주도했으며, 지난 4월부터 구글의 AI 기술 개발을 총괄하고 있다.

7일(현지시간) 스웨덴 왕립과학한림원에서 물리·화학·경제학 노벨상 수상자 공동 기자회견이 열리고 있다. AFP=연합뉴스

실제 AI 기술이 빠르게 발전하면서 인간의 통제를 벗어날 우려도 커지고 있다. 오픈AI가 지난 5일(현지시간) 발간한 최신 AI 모델 ‘o1’의 안정성을 시험한 보고서에 이 같은 사례가 등장한다. 보고서에 따르면, o1은 과거 출시한 AI 모델인 ‘GPT-4o’보다 고의로 이용자를 속이기 위한 거짓말을 할 확률이 더 높았다. 이용자가 AI 모델을 폐기(shut down)하려는 시도에 맞서 스스로를 복제하려고 시도한 경우도 있었다. 다만, 오픈AI와 함께 o1의 안전성을 시험한 외부 업체인 ‘아폴로 리서치’는 해당 보고서에서 “o1이 (스스로 생각하고 행동하는) AI 비서로서의 능력이 떨어지는 탓에 이용자를 속이는 등의 행위가 파멸적인 결과로 이어질 가능성은 낮다”고 평가했다.

같은 이유로 AI가 군사 분야에 사용되는 것에 대한 우려도 커지고 있다. 힌턴 교수는 이날 “각국 정부는 치명적인 자율무기(lethal autonomous weapons)를 스스로 규제할 생각이 없고, 미국, 중국, 러시아, 영국, 이스라엘 등 무기를 공급하는 주요국 간 경쟁이 벌어지고 있다”고 비판했다. 치명적인 자율무기는 AI 기술이 탑재된 무기를 뜻하며, 일각에서는 AI 기술이 탑재된 무기가 인간의 의지와 무관하게 사람을 겨냥해 사살하는 ‘킬러 로봇’이 등장할 수 있다는 우려를 나타내고 있다. 앞서 오픈AI는 지난 5일(현지시간) 방산업체 안두릴과 함께 AI 기술을 탑재한 드론을 개발하기로 했고, 지난달 앤스로픽도 글로벌 방산업체 팔란티어와 함께 군사적으로 사용되는 AI 모델을 개발한다고 발표했다. 메타는 지난달 자사의 대규모언어모델(LLM)인 라마(Llama)를 자국 군수업체에 한해 연구에 사용하도록 허용했다.

■ 더중앙플러스 : 팩플

올해 노벨상을 수상한 제프리 힌턴 토론토대 명예교수(물리학상) 인터뷰와, 데미스 허사비스 딥마인드 CEO(화학상)가 이끄는 딥마인드의 알파폴드가 어떻게 제약 분야를 혁신하고 있는지 분석한 리포트를 소개합니다. 더 자세한 기사 내용이 궁금하시다면, 기사 링크를 복사해 주소창에 붙여 넣어주세요.

① “인류 재앙, 막을 방법 모른다” AI 대부가 AI 미래 경고했다

https://www.joongang.co.kr/article/25200315

② 10년 신약개발 몇달만에 뚝딱…AI가 ‘난치병 자물쇠’ 딴다

https://www.joongang.co.kr/article/25255327

③ 무인 전쟁이 무한 전쟁 된다…‘55만원 터미네이터’의 등장

https://www.joongang.co.kr/article/25293488

윤상언 기자 youn.sangun@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지