"美中, AI 무기화땐 공멸…딥페이크부터 공동단속을"

양대 패권국인 미국과 중국이 급속도로 고도화되고 있는 인공지능(AI) 기술 위험성을 공동 관리하기 위한 논의에 착수했다. 인류의 실존적 위협에 대응한다는 게 표면상 이유지만, AI의 군사적 활용 가능성을 서로 견제하기 위한 포석을 깔려는 것이 속내다.

14일(현지시간) AP통신 등에 따르면 미국과 중국이 고위급 대표단을 구성해 스위스 제네바에서 비공개 회의를 했다. AI 기술이 실존적 위협이 되지 않도록 견제하는 방안을 찾기 위해서다. 이와 관련해 미국 백악관 국가안전보장회의(NSC)는 타룬 차브라 대통령 특보 겸 백악관 기술·국가안보 담당 선임 국장과 국무부의 핵심·신흥 기술 부특사인 세스 센터 박사가 미국 대표단을 이끌고 있다고 밝혔다.

백악관 측은 "양국 정부가 첨단 AI 시스템의 리스크를 어떻게 이해하고 해결할지에 대해 의견을 교환하는 자리"라고 설명했다. 미국 정부 고위 당국자는 "중국은 AI 발전을 중요한 국가적 우선순위로 삼아 민간과 군사, 국가 안보 분야에서 급속도로 역량을 배분해왔고, 이는 미국과 동맹국의 안보를 약화시켜왔다"면서 이번 회담에서 AI의 군사적 활용 문제를 주요 의제로 다룰 것임을 시사했다.

중국 관영 신화통신은 중국 외교부를 인용해 양측이 AI의 기술적 위험과 글로벌 거버넌스 등 문제를 다룰 것이라고 전했다. AP통신은 미·중 모두 AI를 향후 국가 안보와 경제 성장의 핵심으로 보고 있다면서 무기 시스템에 AI를 접목시켜 경쟁국을 압도하기 위해 노력하고 있다고 분석했다.

미국 행정부 관리들은 회의에서 이 기술로 인해 발생할 수 있는 위험을 어떻게 해결하고 있는지 개략적으로 설명할 것이라고 전했다. 미국이 해당 분야 선두 기업과 자발적인 약속을 하고, AI 제품에 대한 안전성 테스트를 요구하는 등 노력하고 있다는 점을 어필할 것으로 보인다.

이번 AI 회의는 지난해 11월 샌프란시스코에서 열린 조 바이든 미국 대통령, 시진핑 중국 국가주석의 정상회담에서의 합의에 따른 것이다. 미국 AI 전문가들은 이번 회의가 폐쇄적인 중국의 AI 기술을 엿볼 수 있는 기회가 될 것이라고 평했다. AI 전문가이자 미 보안업체 '카사바시큐리티' 공동설립자인 제이슨 글래스버그는 "현재 가장 중요한 건 AI가 무기화되거나 남용되면 양측 모두 잃을 게 많다는 걸 깨닫는 것"이라고 강조했다. 이어 "현재 가장 큰 위험 영역 중 하나는 허위 정보 선전전에 사용되는 딥페이크"라며 "이는 미국 정부뿐만 아니라 중국에도 커다란 위험"이라고 덧붙였다.

미 싱크탱크인 신미국안보센터의 폴 샤레는 "AI와 관련된 사고 위험은 매우 높고, 그 결과는 매우 심각할 것"이라며 "세계 경제와 군사·기술을 이끄는 미국과 중국이 AI 위험 관리 방안에 대한 합의에 도달하면 다른 나라들이 따르는 발판으로 작용할 수 있을 것"이라고 전망했다.

한편 미국과 중국을 넘어 주요 선진국들은 지난해 11월 영국 블레츨리 파크에서 열린 '제1차 글로벌 AI 안전성 정상회의'에서 고성능 AI에 대한 국제 협력에 합의했다.

총 28개국이 공동 서명한 '블레츨리 선언문'에 따르면 주요국은 AI 평가지표를 만들고 AI 안전성 테스트 도구를 개발하며, 고성능 AI 위험 식별 방안을 마련하는 데 협력하기로 했다. 참가국들은 "AI가 인류의 복지·평화·번영을 변화시키고 향상할 잠재력이 있다"면서도 "비정상적으로 강하고 해로울 수 있는 AI를 개발하는 주체들은 안전 테스트 및 기타 적절한 조처를 통해 AI 안전을 보장할 책임이 크다"고 강조했다. 당시 회의에는 AI 분야 글로벌 선두 정보기술(IT) 기업인 오픈AI, 구글, 마이크로소프트(MS) 등도 참석했다. 오는 21일에는 관련 주요국과 IT 기업들이 함께하는 '제2차 글로벌 AI 안전성 정상회의'가 서울에서 열린다.

[진영태 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]