이스라엘의 가자지구 폭격을 지휘하는 AI 머신 [PADO]

[편집자주] 전쟁은 그 자체로 비극이지만 각종 첨단기술이 경합하는 장이기도 합니다. 최근 가장 두드러지는 것은 드론 기술입니다. 특히 우크라이나 전쟁에서는 드론이 저렴함을 앞세워 전장을 크게 뒤바꾸었습니다. 한편으로는 AI(인공지능) 기술도 여러 방면으로 실전에 사용되고 있는데 소프트웨어 중심적인 특성상 일반에 그 내막이 공개되는 경우는 별로 없습니다. 이스라엘 시민언론 +972매거진의 2024년 4월 3일 기사 '폭로하는 '라벤더' AI 체계'는 우리가 그동안 전장에서의 AI 사용에 대해 우려하고 있던 모든 점들을 현실로 보여줍니다. 인간에게는 불가능한 속도과 물량으로 사살 표적을 생산하는 한편, '위기상황'이라는 미명 하에 민간인에 대한 '부수적 피해' 가능성에 대해서는 애써 눈을 돌림으로써 '기계가 정한 표적을 사람이 죽이는' 사례가 반복되고 있습니다. AI는 이미 전쟁을 바꾸고 있습니다. 우리는 새로운 기술이 어떻게 전쟁의 양상을 변화시키는지를 면밀히 관찰하는 한편, 어떻게 여기에 정치적인 통제를 가할 수 있을지도 함께 고민해야 합니다. 이스라엘은 잔혹한 AI 기술을 전쟁에 활용하고 있지만 양심을 가진 군인들이 언론에 우려를 제보하고, 그것을 탐사보도를 통해 공론화할 수 있는 매체도 가지고 있다는 것도 주지해야 할 것입니다. 기사 전문은 PADO 웹사이트(pado.kr)에서 읽을 수 있습니다.

[스데로트=AP/뉴시스] 이스라엘 현충일인 13일(현지시각) 이스라엘 남부 스데로트의 관광지를 방문한 사람들이 가자지구에서 폭발이 일어난 후 연기가 치솟는 것을 지켜보고 있다. 2024.05.14.

2021년, '인간-기계 팀: 우리의 세상을 혁신할 인간과 AI 간의 시너지 창출법'이라는 영문 서적이 'YS 준장'이라는 필명으로 출간됐다.

이스라엘의 엘리트 정보부대인 8200부대의 현직 사령관으로 확인된 저자는 이 책에서 방대한 규모의 데이터를 신속하게 처리해 전쟁이 한창 진행되는 상황에서 공격에 사용할 수천 개의 '표적'을 생성할 수 있는 특수한 체계를 개발해야 한다고 주장했다.

저자는 이런 기술이 "새로운 표적을 찾고 선택하는 의사결정 과정에 있어 '인간이 유발하는 병목현상' 문제를 해결할 것"이라고 말한다.

이런 체계는 실제로 존재한다. +972매거진과 로컬콜의 취재에 따르면 이스라엘군(IDF)은 '라벤더'라는 AI 기반 프로그램을 개발했으며, 이 프로그램의 정체는 이번에 최초로 공개됐다. 현재 가자지구를 대상으로 한 전쟁에 참전 중이고, 사살 목표를 지정하기 위해 AI를 사용한 경험이 있는 6명의 이스라엘군 정보부서 장교들에 의하면, 이 '라벤더'는 특히 전쟁 초기 단계에서 팔레스타인을 목표로 진행된 전례를 찾아볼 수 없는 폭격의 핵심 요소로 보인다.

이 제보자들의 증언에 따르면, 라벤더가 군사 작전에 미친 영향력은 너무 커서, IDF는 AI 체계가 출력한 결과를 '마치 인간의 결정인 것처럼' 취급할 정도였다.

공식적으로, 라벤더 시스템은 하마스와 팔레스타인이슬라믹지하드(PIJ)의 전투부서에 소속된 것으로 의심되는 하위 요원을 포함한 모든 구성원을 잠재적인 공격 표적으로 구분하도록 설계됐다.

+972와 로컬콜의 제보자들은 이스라엘군이 전쟁 초기에 몇 주 동안 거의 전적으로 라벤더에 의존했고, 라벤더는 최대 3만 7000명에 달하는 팔레스타인인을 무장세력 가담자로 구분했고, 그들의 집을 공습대상으로 지목했다고 전했다.

그리고 군은 라벤더의 사살표적목록을 가감없이 채택하도록 승인했으며, 이 결정이 내려진 이후 장교들은 AI 체계가 왜 그런 결정을 내렸는지 철저하게 확인하지 않았고, 판단의 근거가 된 원시 정보 데이터를 확인하지도 않았다.

한 소식통은 인간이 AI체계가 내린 결정에 '거수기' 역할만 하는 경우가 많았다며, 폭격을 승인하기 전에 라벤더가 지시한 표적 당 20초가량의 시간을 할애해 표적이 남성인지 아닌지만을 확인했을 뿐이라고 증언하기도 했다.

이는 시스템이 평균적으로 10%가량 '오류'를 범했으며, 무장단체와 느슨한 연관관계에 있거나, 전혀 연관이 없는 인물을 지목하는 경우도 있음을 알고 있는 상태에서 벌어진 일이었다.

그리고 이스라엘군은 표적이 군사활동에 참가중일 때가 아니라, 주로 가족들과 함께 모여 있을 야간에 체계적인 공격을 가했다.

제보자들의 설명에 따르면, 이런 공격은 정보기관의 관점에서는 (은신중인 무장조직보다는) 자가로 돌아간 개인을 찾아내는 편이 훨씬 용이했기 때문이었다.

이번에는 '아빠 어딨어?'(Where's Daddy?)라는 이름의 자동 감시 체계도 처음으로 정체가 드러났는데, 이 감시체계는 주로 표적이 된 개인을 감시하다 표적이 귀가했을 때 집을 폭격하는 용도로 사용됐다.

관계자들의 증언에 의하면, 전쟁 초기의 몇 주 동안 이 AI 프로그램의 결정에 따라 진행된 이스라엘의 공습으로 사망한 수천 명의 팔레스타인인 가운데 대부분은 여성과 어린이, 혹은 전투에 관련되지 않은 사람들이었다.

(계속)

━
PADO 웹사이트(https://www.pado.kr)에서 해당 기사의 전문을 읽을 수 있습니다. 국제시사·문예 매거진 PADO는 통찰과 깊이가 담긴 롱리드(long read) 스토리와 문예 작품으로 우리 사회의 창조적 기풍을 자극하고, 급변하는 세상의 조망을 돕는 작은 선물이 되고자 합니다.

━

김수빈 에디팅 디렉터 subin.kim@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지