"AI 개발 6개월 중단해야"...머스크·워즈니악 등 1000명 촉구, 왜

일론 머스크. 테슬라 최고경영자(CEO). AFP=연합뉴스

일론 머스크 테슬라 최고경영자(CEO)를 비롯한 세계적인 인공지능(AI) 전문가, 정보기술(IT) 업계 경영자들이 향후 6개월간 AI 시스템 개발을 중단할 것을 요청했다. AI가 사회에 끼칠 잠재적 위험성에 대한 우려를 표하면서다.

28일(현지시간) 로이터 통신에 따르면 미국 비영리단체 '삶의 미래 연구소'(FLI)는 이날 공개서한에서 '챗GPT' 개발사 오픈AI가 최근 출시한 GPT-4를 능가하는 AI 시스템의 개발을 6개월간 중단해야 한다고 주장했다.

이 서한에는 머스크 외에도 애플 공동창업자 스티브 워즈니악, 이미지 생성 AI '스테이블 디퓨전' 개발사인 스테빌리티.AI의에마드모스타크 CEO, 에번 샤프 핀터레스트 CEO, 세계적 베스트셀러 작가인 유발 하라리 등 1000명이 넘게 서명했다. 오픈AI의 샘 올트먼 CEO는 서명에 참여하지 않았다.

이들은 서한에서 "강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다고 확신이 있을 때만 개발되어야 한다"고 강조했다.

또 "기계가 우리 정보 채널을 선전과 거짓으로 범람하게 놔둬야 할까. 수적으로 우월하고 지적으로 우월한 비인간 지성(nonhuman minds)이 결국 우리 인간을 대체하도록 개발돼야 할까"라며 "이런 결정을 위임받지 않은 기술 지도자들에게 위임해서는 안 된다"고 말했다.

그러면서 독립적이고 안전한 협약이 개발될 때까지 거대 AI 개발을 중단하고 개발자들이 거버넌스(공공경영) 관련 정책 입안자들과 협력할 것을 요청했다.

이번 서한은 마이크로소프트(MS)가 지원하는 오픈AI의생성AI프로그램 '챗GPT'의 4번째 버전이 공개된 이후 나왔다.

챗GPT는 국가 안보와 교육 등에 미치는 영향에 대한 의문으로 우려가 제기되고 있다. 유럽연합(EU) 경찰인 유로폴(Europol)은 챗GPT가 피싱 시도, 허위 정보, 사이버 범죄에 시스템이 악용될 가능성이 있다고 경고했다. 영국 정부는 AI에 대한 '적용 가능한' 규제 틀을 마련할 것을 제안했다.

서한에 서명한 뉴욕대 게리 마커스 교수는 로이터에 "서한이 완벽하지는 않지만 정신은 맞다"며 "AI 파급효과를 더 잘 이해할 때까지 속도를 늦출 필요가 있다"고 말했다.

그는 "거대 기업들이 점점 자신들이 하는 일에 대해 기밀화하고 있으며, 이는 현실이 될 수 있는 사회적 피해를 막기 어렵게 한다"고 지적했다. 지난해 말 출시된 챗GPT가 대흥행하면서 자극을 받은 경쟁사들은 유사한 대규모 언어모델 개발을 가속하고 있다.

백악관 과학기술실 출신인 수레시벤카타수브라마니안브라운데 교수는 "AI 시스템을 개발할 수 있는 권한이 이를 수행할 자원이 풍부한 소수 회사의 손에 계속 주어졌다"며 "이러한 모델은 민주화하기 어렵다"고 지적했다.

김은빈 기자 kim.eunbin@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지