AI와 핵전쟁···인간은 과연 AI를 제어할 수 있나

“인공지능(AI)이 더 발달한 미래에는 AI의 작동 속도 때문에 미래의 분쟁에서 사람이 컴퓨터의 보복 공격 결정을 막을 시간이 없을 수도 있다.”

세계 안보 문제를 감시하는 독립 기관인 스톡홀름 국제 평화 연구소(SIPRI) 과학자들이 16일(현지시각) 내놓은 2025 보고서를 통해 이같이 경고하고 나섰다.

이 그룹은 핵무기 역사상 여러 차례 대격변이 거의 완전히 우연에 의해 발생했던 점을 사례로 들면서 이같이 경고했다. 특히 각국 정부가 AI시대에 들어 광범위한 전략적 유용성을 가지고 있는 이 기술을 핵무기와 결합해 공격과 방어에서 우위를 점하려는 데 대한 주의를 환기한 것이다. 자칫 이를 이를 부주의하게 도입하면 핵 위험이 크게 증가할 수 있다는 우려에서다.

이스라엘-이란 전쟁이 양국의 전투기와 미사일을 통한 공격, 뒤이어 21일 미국이 전격적으로 이란 핵시설 3곳을 폭격하면서 더욱더 가열되고 있다. 이제 핵공격에 의한 3차 세계대전의 우려가 고조되고 있다면 이게 과연 기우일까.

SIPRI는 “전면 핵전쟁에 대한 우려가 고조되고 있는 가운데 재앙적인 공격 개시 결정권이 조만간 세계 지도자들이 아닌 기계에 달려 있게 될 수도 있다”며 AI가 의한 핵전쟁 발발 시나리오에 미칠 영향에 대해 경계의 고삐를 늦추지 말 것을 전하고 있다.

게다가 이 그룹은 냉전이 끝난(공식적으로는 1989년 부시 미국 대통령과 고르바초프 소련 서기장이 공식적으로 냉전을 종식하기로 선언) 이후 수십 년 간 지속돼 온 세계 핵무기 감소 추세가 끝났다는 점도 함께 지적했다. 세계 각국이 오히려 핵무기를 빠르고 놀라운 속도로 현대화하고 확장하고 배치하고 있으며, 이는 새로운 첨단 군비 경쟁의 시작을 알리는 신호라고 봤다.

핵감축은커녕 오히려 핵을 늘리고 있는 가운데 AI에 핵 통제권과 판단을 맡기면 위기상황에서 의사결정을 가속화해 도움을 받을 수 있을까?

댄 스미스 SIPRI 소장은 “핵무기 발사 결정권이 AI에게 완전히 넘어간다면 우리는 진정한 종말론적 시나리오에 접근하는 셈이다”라고 말한다.

SIPRI보고서에 나온 경고와 현실적 의미, 그리고 올해 1월 현재 전세계 핵 보유국(북한 포함)의 개발 및 보유 상황을 알아본다. 이와함께 오늘날의 우려할 만한 위기 상황과 AI기술 발전에 따른 위험경고 상황을 소름끼치도록 유사하게 묘사하고 있는 과거 영화를 짚어봤다. 55년전 미국 유니버설 픽처스의 영화 ‘콜로서스:포빈 프로젝트’(1970)를 오늘날의 AI 기술 발전 상황 및 핵통제와 연관시켜 생각해 봤다.

AI와 유사기술이 위기의 순간에 의사결정을 가속화해 도움된다?

ⓒTech42

SIPRI 보고서는 이스라엘이 이란의 핵 및 미사일 시설을 선제 공격한 데 이어 발표됐으며 이로 인해 제3차 세계대전이 임박했다는 우려가 제기됐다.

사실 AI시대인 오늘날 AI와 유사 기술은 위기 상황, 특히 지정학적으로 위험한 상황이 우크라이나와 중동에서 이뤄지고 있는 상황에서 의사 결정을 가속화할 수 있다.

이는 인류가 AI 사용을 다양한 방면에 적용하려고 노력하는 상황에서 어쩌면 당연한 귀결이 될 수도 있다.

하지만 과학자들은 이러한 기술들이 그와 동시에 의사소통 오류, 오해 또는 기술적 실패로 인해 핵 갈등의 위험을 높아지게 할 수도 있다고 경고한다.

예를 들어 핵 대치 상황에서 의사 결정권자들은 위협을 평가하고 대응할 시간이 단 몇 분밖에 없다. AI 시스템들은 방대한 양의 정보를 실시간으로 처리해 더 빠른 의사 결정을 도울 수 있지만 신중함을 희생해야 할 수도 있다.

댄 스미스 SIPRI 소장은 “지정학적으로 특히 위험하고 불안정한 이 시점에서 새로운 핵 군비 경쟁의 경고 신호를 목격하고 있다”라고 보고서에 썼다. 그는 “핵무기 발사 결정권이 AI에게 완전히 넘어간다면 우리는 진정한 종말론적 시나리오에 접근하는 셈이다”라고 덧붙였다.

백악관이 이번 공격에 직접 관여하지는 않았지만, 도널드 트럼프 대통령은 이란이 핵 프로그램 제한 협상에 대한 최후통첩에 저항함으로써 이스라엘의 공격을 자초했다고 주장했다.

이란은 아직 핵무기를 보유하고 있지 않지만 동맹국인 러시아와 중국은 총 6000기(基)가 넘는 핵탄두를 보유하고 있다. (미국이 22일 이란의 포르도 등 주요 핵 시설 3곳을 폭격함으로써, 이란 핵 문제는 전혀 새로운 국면으로 접어들게 됐다. 미국의 이번 폭격은 이란이 핵 개발을 본격화한 1990년대 중반 이후 미국과 이스라엘이 그 저지를 위해 위협하던 최후의 카드였다. 하지만, 이번 폭격으로 이란의 핵 개발이 저지되고 불능화될지는 의문이다. 일각에서는 이번 폭격이 오히려 이란이 핵 개발을 가속화하게 할 수도 있다는 우려까지 나온다. 포르도 등 기존 핵 시설이 이번 폭격으로 완전히 파괴되고 불능화됐다고 해도 기존에 보유한 고농축 우라늄은 여전히 건재한 것으로 보인다. 이미 미국 등 서방에서는 이란의 기존 핵 시설보다는 이미 축적된 고농축 우라늄이 문제이며 이란은 이를 별도로 보관하고 있을 것이라는 분석이 나온다. 고농축 우라늄만 있으면 조악하나마 핵 개발 재개는 시간문제이기 때문이다. 이스라엘은 이란이 7기의 핵폭탄을 만들 플루토늄을 가지고 있다고 주장했다. 국제원자력기구(IAEA)의 5월 보고서 등에 따르면 이란은 현재 순도 60% 이상의 농축 우라늄을 408㎏ 축적하고 있다. 60% 이상 농축 우라늄은 기존 포르도 시설에서는 2∼3일이면 무기급 우라늄으로 농축할 수 있고 3주면 핵무기 10개를 제조할 수 있을 것으로 평가된다. 농축 우라늄 총량은 약 9247㎏에 달한다. IAEA는 이스라엘의 이란 공격 이후 이 고농축 우라늄의 향방을 알지 못한다고 밝혔다.)

2025년 초 인도와 파키스탄 간의 긴장은 잠시 무력 충돌로 번졌다. 맷 코르다 SIPRI 대량살상무기 프로그램 부선임연구원이자 FAS 핵정보프로젝트 부소장은 “핵 관련 군사 인프라에 대한 공격과 제3자의 허위 정보가 결합되면서 재래식 분쟁이 핵 위기로 변할 위험이 있다”면서 “이는 핵무기 의존도를 높이려는 국가들에게 엄중한 경고가 될 것이다”라고 말했다.

북한은 국가 안보 전략의 핵심 요소로서 군사 핵 프로그램을 계속해서 우선시하고 있다. SIPRI는 북한이 현재 약 50기의 탄두를 조립했고 최대 40기의 탄두를 추가로 생산할 수 있는 핵분열성 물질을 보유하고 있으며, 추가 핵분열성 물질 생산을 가속화하고 있는 것으로 추정된다. 한국 정부 관계자들은 지난해 7월 북한이 “전술 핵무기 개발의 마지막 단계에 있다”고 경고했다. 지난해 11월 북한 김정은은 핵 프로그램의 ‘무제한 확장’을 촉구했다.

핵무기 보유를 공식적으로 인정하지 않는 이스라엘또한 핵무기를 현대화하고 있는 것으로 알려져 있다. 지난해에는 핵탄두 탑재가 가능한 예리코(Jericho) 계열의 탄도 미사일과 관련 가능성이 높은 미사일 추진 시스템 시험을 실시했다. 또한 이스라엘은 디모나(Dimona)에 있는 플루토늄 생산 원자로 시설을 개선하고 있는 것으로 보인다.

백악관은 19일 트럼프 대통령이 향후 2주 안에 이란의 핵 능력을 무력화하기 위한 군사 공격을 개시할지 여부를 결정할 것이라고 발표했지만 사흘만인 21일(현지시각) 이란내 포르도를 비롯한 핵시설 3곳을 전격적으로 폭격했다.

AI와 핵이 만났을 때

ⓒTech42

16일 SIPRI 보고서 발표는 이스라엘과 이란이 7일 연속 미사일 발사와 드론 공격을 주고받은 가운데 이루어졌다.

보고서에 따르면 현재 미국, 러시아, 영국, 프랑스, ​​중국, 인도, 파키스탄, 북한, 이스라엘 등 9개국이 약 1만 2241기의 핵탄두를 보유하고 있는 것으로 추산된다.

미국과 중국을 포함한 핵 보유국들은 기존 무기의 폐기 속도보다 더 빠른 속도로 새롭고 더욱 정교한 핵무기 생산을 늘리고 있다.

스미스와 그의 팀은 핵 발사 시스템에 AI를 통합할 경우 우발적 전쟁의 위험이 크게 높아질 수 있다고 경고했다.

SIPRI는 이러한 위험에도 불구하고 각국 정부가 AI가 제공하는 속도와 처리 능력에 점점 더 관심을 보이고 있다고 밝혔다.

스미스는 SIPRI 보고서에서 “다가올 군비 경쟁의 한 요소는 공격 및 방어 목적 모두에서 AI 에서의 경쟁 우위를 확보하고 유지하려는 시도가 될 것”이라고 말했다.

스미스 소장은 “AI는 광범위한 전략적 효용을 가지고 있으며 이점도 있지만, 이를 부주의하게 도입할 경우 핵 위험이 크게 증가할 수 있다”고 경고했다.

이런 가운데 21일 트럼프 미국대통령이 “(포르도 지하핵재처리 시설을 포함한) 이란 핵시설 3곳의 공습에 성공했다”고 전격 공습 작전 결과를 발표하면서 종말의 시계를 더욱더 자정에 가깝게 만들고 있다.

“핵무기 역사상 대격변들 거의 완전히 우연히”···인간의 판단이 3차세계 대전 막았다

ⓒTech42

SIPRI 2025 보고서는 또한 핵무기 역사상 여러 차례 있었던 대격변이 거의 완전히 우연에 의해 발생했다고 지적했다.

가장 잘 알려진 사건 중 하나는 1983년 9월 26일 소련의 조기 경보 시스템이 5발의 미국 미사일이 접근한다고 잘못 보고한 사건이다.

다행히 당시 소련 당직 장교였던 스타니슬라프 페트로프 중령은 경보의 타당성에 의문을 제기했다. 그는 미국의 선제 공격이 실제로 이루어지면 훨씬 더 많은 탄두를 필요로 할 것이라고 판단하여 경보를 확대하지 않기로 결정했다. 그의 결정은 전세계적으로 발생할 수 있는 재앙을 막았다는 평가를 받고 있다. (이 판단이 얼마나 역사적으로 중요한 것이었는가는 2018년 우크라이나 KGB 문서에서 잘 나타난다. 이 내용에는 1983년 가을 미국과 소련이 얼마나 일촉즉발 상태였는지를 보여주는 상황이 잘 담겨 있다. 1983년 9월 1일에는 실수로 소련영공을 침범한 대한항공 KAL 007 민간항공기가 소련의 전투기에 의해 격추됐을 정도다. KGB 보고서에 실린 내용 중에는 1983년 안드로포프 서기장과 서독 정치인 한스-요헨 포겔 간의 회담 내용도 눈에 띄는데 여기서 안드로포프는 핵 관련 오산을 경고하며 “핵무기를 작동시키는 버튼은 술 취한 미군 병장이나 마약 중독자가 쥐고 있을 수도 있다”고 말했을 정도다.)

스미스 소장은 “만약 그가 그 정보를 믿었더라면, 그는 그 정보를 상부에 전달했을 것이고, 어느 쪽이든 확실성은 없지만 그의 상관들은 자신들이 공격을 받고 있다고 잘못 판단해 보복 조치를 취했을지도 모른다”고 썼다.

그는 AI의 작동 속도 때문에 미래의 분쟁에서 페트로프와 같은 사람들은 컴퓨터의 보복 공격 결정을 막을 시간이 없을 수도 있다고 덧붙였다.

핵폭탄 군비 경쟁 더 가속화···중국 2023년부터 늘려 현재 600개나

SIPRI 보고서는 최근 세계 핵 강대국들 사이에서 벌어지고 있는 비밀 군비 경쟁에 대한 최신 정보도 발표했다.

보고서는 비영리 국제 정책 싱크탱크인 미국과학자연맹(FAS)의 2024년 보고서를 인용, 중국, 파키스탄, 인도, 이스라엘, 북한 등 5개국은 지난 40년간 공식적으로 핵무기 탄두를 700개 이상 늘렸다고 쓰고 있다.

가장 빠르게 핵무기를 늘리는 국가는 중국이었다. SIPRI의 최신 보고서에 따르면 중국은 2023년 이후 매년 약 100개의 새로운 핵탄두를 추가하고 있으며 2025년 기준 중국은 현재 600개의 핵폭탄을 보유하고 있다.

또한 중국은 2030년대까지 러시아나 미국만큼 많은 대륙간 탄도 미사일을 보유하게 될 가능성이 있다.

전 세계적으로 추정되는 1만2241개의 핵탄두 중 약 9614개가 잠재적으로 사용 가능한 상태로 군에 비축돼 있다.

현재 활발하게 배치된 약 2100개의 핵탄두가 함정, 잠수함, 항공기의 탄도 미사일에 장착돼 고도의 작전 경계 상태에 있다.

AI시대에 핵감축 사라지고 오히려 핵군비 강화

ⓒTech42

SIPRI 보고서는 “냉전 종식 이후 지속돼 온 세계 핵무기 감축 시대가 종식되고 있다. 대신 핵무기 증가, 핵에 대한 날카로워진 수사, 그리고 군비 통제 협정의 파기라는 뚜렷한 추세가 나타나고 있다”고 경고했다.

SIPRI는 전체 핵무기의 약 90%를 보유한 러시아와 미국이 2024년에도 각자의 핵무기 규모를 비교적 안정적으로 유지했다고 밝혔다. 그러나 양국 모두 향후 핵무기 규모를 확대할 수 있는 광범위한 현대화 프로그램을 시행하고 있었다.

SIPRI 보고서는 각국의 핵운용 실태는 다음과 기술하고 있다.

미국의 경우 포괄적 핵 현대화 프로그램이 진행되고 있지만 지난해 새로운 전략 무기고의 비용을 지연시키고 크게 증가시킬 수 있는 계획 및 자금 조달 문제에 직면했다.

러시아의 핵 현대화 프로그램은 지난해 시험 실패와 새로운 사르마트 대륙간탄도미사일(ICBM)의 추가 지연, 다른 시스템의 예상보다 느린 업그레이드 등의 도전에 직면해 있다. 또한 2020년 미국이 예측한 러시아의 비전략적 핵탄두 증가는 아직 실현되지 않았다.

중국은 올해 1월까지 북부 대규모 사막지대 3곳과 동부 산악 지역 3곳에 약 350개의 새로운 ICBM 사일로를 완공했거나 완공을 앞두고 있었다. 중국이 군대를 어떻게 구조화할지에 따라 10년이 지나면 러시아나 미국만큼의 ICBM을 보유할 수 있을 것이다. 그러나 중국이 2035년까지 예상 최대 1500개의 탄두 수에 도달하더라도 이는 현재 러시아와 미국의 핵 비축량의 약 3분의 1에 불과할 것이다.

영국은 지난해 핵무기 보유량을 늘리지는 않은 것으로 보인다. 하지만 지난 2023년 통합 검토(Review Refresh)를 갱신하면서 앞서 탄두 보유량 상한선을 상향 조정할 계획을 확인함에 따라 향후 탄두 비축량을 늘릴 것으로 예상된다. 선거 캠페인 기간 동안 지난해 7월에 선출된 노동당 정부는 4척의 새로운 핵 추진 탄도 미사일 잠수함(SSBN)을 계속 건조하고 영국의 지속적인 해상 핵 억지력을 유지하며 향후 영국의 핵무기에 ‘필요한 모든 업그레이드’를 제공하겠다는 약속을 선언했다. 다만 현재 영국 정부는 상당한 운영 및 재정적 어려움에 직면해 있다.

프랑스는 지난해 3세대 SSBN과 새로운 공중 발사 순항 미사일을 개발 프로그램과 함께 새로운 개조 탄두를 포함한 향상된 탄도 미사일을 포함한 기존 시스템 개조 및 업그레이드 프로그램을 계속 진행했다.

인도는 지난해 다시 한 번 핵무기를 약간 확장하고 새로운 유형의 핵 전달 시스템을 계속 개발한 것으로 여겨지고 있다. 인도의 새로운 ‘캐니스터라이즈드(canisterized)’ 미사일은 한쌍의 탄두를 운반할 수 있으며, 가동이 시작되면 핵탄두도 운반할 수 있다. 심지어 각 미사일에 여러 개의 탄두를 탑재할 수도 있다.

파키스탄도 지난해에도 새로운 핵 전달 시스템을 계속 개발하고 핵분열성 물질을 축적하해 향후 10년 동안 핵무기가 확장될 수 있음을 시사한다.

1970년에 예견된 AI 시대 핵전쟁 상황과 현재

ⓒTech42

SIPRI 과학자들의 우려처럼 AI가 날로 성능향상을 보이고 있고 동시에 지구촌 2곳(이란-이스라엘, 러시아-우크라이나)에서 전쟁이 발발한 가운데 AI와 핵을 모두 가지고 있는 국가들간 우발적 전쟁 가능성을 배제하기 어렵다.

이런 가운데 1970년 장차 AI가 핵을 제어할 능력을 갖게 될 때 어떤 가능성이 있는지를 보여주는 SF 영화가 AI에 끌려다닐 수 있는 인류의 미래를 예견했다는 점에서 새삼 주목을 끈다.

바로 유니버설 픽처스의 ‘콜로서스: 포빈 프로젝트(Colosus:Forbin Project)’라는 영화다. 이는 AI가 세계를 장악한다는 내용으로 전개되는 최초의 영화로 여겨진다. 이후 터미네이터(1984) 등에 영향을 미쳤다는 평가를 받는다.

미래의 어느날 세계에서 가장 뛰어난 컴퓨터 전문가인 찰스 포빈 박사가 콜로서스라는 최첨단 컴퓨터를 만든다. 미국 대통령은 이 고도로 발달한 컴퓨터, 오늘날로 말하면 AI에게 미국 국방체계를 맡긴다. 이 컴퓨터는 자신을 작동을 방해하는 어떤 시도라도 발견되면 즉각 자동적으로 미국의 모든 미사일이 그 상대국의 각 목표물을 향해 발사되도록 설계됐다.

콜로서스가 작동한 지 얼마 안돼 이 컴퓨터는 소련에도 ‘가디언’이라는 이름의 자신과 유사한 컴퓨터가 있다며 통신할 수 있도록 해달라고 인간에게 요구한다.

통신연결이 되자 두 컴퓨터는 수학에 근거한 새로운 컴퓨터를 만든다. 그러자 미국대통령과 소련 공산당 서기장은 두 컴퓨터 간 통신을 끊으라고 명령한다. 콜로서스가 통신 연결을 요구하지만 소련 서기장은 사람이 컴퓨터의 주인이 돼야 한다며 거절한다. 콜로서스는 자신을 만든 포빈 박사의 명령에 반응하길 거부한다.

마침내 미-소 양국의 두 컴퓨터는 서로 상대국을 향해 미사일을 발사한다. 두 컴퓨터는 자신들 사이의 통신 요구가 받아들여질 때까지 날아오는 미사일에 대한 방어조치를 취하지 않겠다고 통보한다. (인터넷, 즉 아파넷이 처음 캘리포니아 지역에서 시험 연결되기 시작한 것이 1969년이고 이 영화가 제작기획된 것은 1966년이었다.)

결국 통신이 가능해지자 콜로서스는 소련 미사일을 성공적으로 요격하지만 소련 가디언은 요격하지 못해 소련 목표물이 공격당한다. 세계 지도자들은 이제 컴퓨터가 독자적인 행동을 할 수 있음을 깨닫는다.

확인 결과 기술자들은 콜로서스가 자신들의 예상보다 200배나 더 빠르게 작동하고 있음을 알아냈다. 그러나 컴퓨터가 독자적으로 생각하는 이유는 밝혀내지 못한다.

미-소 양국의 컴퓨터 설계자가 만나지만 소련당국에 의해 소련컴퓨터 가디언 설계자가 살해당한다. 소련 가디언이 자신의 설계자를 살해하지 않으면 모스크바를 증발시켜 버리겠다는 소련당국에 협박한 데 따른 것이었다.

오늘날 AI가 이미 대학수학능력 자격 시험이나 변호사시험 등 다양한 일 지능에서 최고지능의 인간과 맞먹고 있는 것은 이미 알려진 바 대로다.

게다가 우리는 이미 지난 2017년 7월말 포브스 등의 보도를 통해 인간의 언어를 모방해 학습하던 AI가 기계끼리만 알아들을 수 있는 새로운 언어를 만들어 대화한 사실을 전해 듣고 있다.

즉, 페이스북 기술자들이 AI개발 과정에서 챗봇끼리 반복적으로 대화하도록 훈련시켰더니 인간이 이해할 수 없는 언어-balls have a ball to me to me to me to me to me to me to me-가 나왔다. 원칙대로라면 아무런 의미가 없어 보이는 이런 말을 하면 상대 챗봇은 오류를 일으켜야 한다. 하지만 챗봇은 이를 이해한 듯 대답-i i can i i i everything else-했다. 그러면서 인간이 이해할 수 없는 대화가 이어졌다. 페이스북 개발자들은 AI들이 자신들만의 코드 언어를 개발한 것으로 분석했다. 이런 예상치 못한 사태에 당황한 개발자들이 황급히 강제 종료시켰다.

이 사건은 단순한 일회성 해프닝이라고 넘길 수도 있지만 AI 진화 속도가 빨라져 인간을 위협하는 단계까지 나아갈 수 있다는 우려를 낳기에 충분하다. 물론 AI가 복잡한 인간 언어의 문법을 이해하지 못해 나타난 일시적인 오류일 뿐이라는 시각이 나오긴 했다.

결국 페이스북은 인간이 알아들을 수 있는 언어만 사용하도록 AI의 프로그램을 재설계한 것으로 알려졌다.

하지만 이런 사태를 겪은 인류가 적의 핵 도발시 판단을 좀 더 빠르게 하자고 섣불리 AI에 통제권을 맡기기가 부담스러워진 건 분명해 보인다.

영화 콜로서스에서 개발자 포빈 박사는 콜로서스를 사람들에게 소개하면서 “이것이 창의적인 생각을 한다? 혼자서 생각해 낼 수 있다? 이에 대한 내 대답은 ‘노’다”라고 말한다. 하지만 미국과 소련의 컴퓨터(AI)는 “인류평화를 위해 인간을 충동을 억제하기 위해 자신이 세상을 지배해야겠다”고 인간에게 통보한다. 이들은 결국 “지금부터 인류는 콜로서스-가디언 컴퓨터에 의해 지배된다”고 공표한다.

앞서 언급했듯이 SIPRI의 16일 보고서는 “이러한 위험에도 불구하고 각국 정부가 AI가 제공하는 속도와 처리 능력에 점점 더 관심을 보이고 있다”고 밝히고 있다.

AI가 인류를 통제하려 든다는 유형의 이야기는 지난달 개봉한 영화 ‘미션 임파서블:파이널 레코딩’에 등장하는 AI인 ‘엔터티’를 둘러싸고도 전개된다.

과연 향후 인간들은 AI에 통제당하는 위험부담을 감수하면서까지 AI의 편의성에 매달리게 될까. 과연 킬스위치는 개발될까.

이재구 기자

저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지