AI가 독식한 노벨상…수상자들 “통제불능 ‘초지능 AI’ 우려” 경고 목소리

올해 인공지능(AI) 연구로 노벨상을 받은 수상자들이 인간의 인지능력을 뛰어넘는 ‘초지능 AI’가 가져올 ‘통제불능’ 상황에 대한 우려의 목소리를 연달아 표명했다.

7일(현지시간) 스웨덴 왕립과학한림원에서 열린 물리·화학·경제학상 수상자 공동 기자회견에서 제프리 힌턴 캐나다 토론토대 교수는 ‘초지능 AI가 존재할 수 있다고 보느냐’를 묻는 질문에 “우리가 내내 실현되리라고 믿어온 부분”이라고 답했다.

챗GPT와 같은 대규모 언어 모델(LLM)의 근간이 된 딥러닝 발전에 큰 기여를 한 힌턴 교수는 “예전에는 초지능 개발 시기가 훨씬 더 늦을 것이라 예상했지만 최근 개발 속도를 보면 5~20년이면 될 것 같다”며 “어떻게 (AI에 대한) 통제력을 유지할 수 있을지 심각한 고민이 필요하다”고 말했다. 그는 과거로 돌아간다면 어떤 게 가장 후회되느냐는 질문에 “안전성에 대한 고민을 더 빨리 했어야 했다”고 답했다.

7일(현지시간) 스웨덴 스톡홀름 왕립과학한림원에서 2024 노벨경제학상·화학상·물리학상 수상자 공동 기자회견이 진행되고 있다. 스톡홀름=AP뉴시스

단백질 구조를 파악하는 ‘알파폴드’ 개발 공로를 인정받아 노벨화학상을 수상한 데미스 허사비스 구글 딥마인드 최고경영자(CEO)도 이날 힌턴 교수의 의견에 동의하며 “나의 열망은 과학적 발견에 기여하는 AI 도구를 개발하겠다는 것”이라면서도 “AI는 인류가 개발한 가장 강력한 기술 중 하나일 것이기에 위험성을 매우 심각하게 다룰 필요가 있다”고 지적했다.

노벨상 수상자들은 군비 경쟁에 활용되고 있는 AI에 대한 규제가 반드시 필요하다는 입장을 밝히기도 했다. 힌턴 교수는 AI 기술이 적용되는 ‘치명적 자율무기(LAWS)’에 관해 어떤 규제도 없으며 군비 경쟁이 심화되며 주요국이 규제에 회의적이라고 언급했다. 허사비스 CEO는 “AI를 제대로 규제하는 것이 매우 중요하다”면서 “기술이 매우 빠른 속도로 진화하고 있어 불과 몇 년 전 논의한 규제 방법이 지금 논의할 만한 규제가 아닐 수 있다”며 신속한 국제 협의 필요성을 강조했다.

7일(현지시간) 스웨덴 스톡홀름 왕립과학한림원에서 열린 2024 노벨경제학상·화학상·물리학상 수상자 공동 기자회견에서 제프리 힌턴 교수가 기자들의 질문에 답하고 있다. 스톡홀롬=AP뉴시스

최근 오픈AI는 미국 방위산업 업체 안두릴 인터드트리즈와 AI를 활용해 드론 공격의 위험을 파악하고 제거하는 기술을 공동국방부를 위한 새로운 AI 기술을 공동개발하기로 결정했다. 앞서 중국은 메타의 AI ‘라마’를 활용한 군사 AI 챗봇을 개발한 바 있다.

남혜정 기자 namduck2@donga.com

ⓒ 동아일보 & donga.com, 무단 전재 및 재배포 금지