SF영화 아닌 현실...AI 킬러 로봇, 규제는 어떻게?

[AI리포터]

[디지털투데이 AI리포터] 미국의 인공지능(AI) 제어 '킬러 드론' 도입이 현실화하면서, 자율살상무기(Lethal Autonomous Weapons; LAWs) 기술에 대한 국제법적 제약을 두고 진영 간 의견이 분분하다. 일명 '킬러 로봇'으로 불리는 이 기술은 인간의 개입 없이 목표물을 추적해 공격하는 AI 로봇과 유사하며, 기계에 인간의 생사 결정을 맡기는 것과 관련한 법적, 윤리적, 보안적 문제를 제기한다.

최근 뉴욕타임스(NYT)는 미국, 중국 등 몇몇 국가가 AI 프로그램을 장착한 자율살상무기를 개발하는 데 급속한 진전을 이루고 있다고 보도했다. LAW는 인간의 허가 없이 프로그래밍된 결과에 따라 살상이 가능한 시스템이다.

UN, 자율살상무기 논의 창구지만...명확한 규제 마련 '지지부진'

국제연합(UN)은 국가들이 LAW 규제에 대해 논의하는 소통 창구가 되고 있으나 뚜렷한 결론을 내리지 못한 상태다. 국제법적 구속력 있는 LAW 규제를 반대하는 미국, 중국, 러시아, 호주, 이스라엘 등 주요 강대국들과 이에 맞서는 국가들 간 입장차가 좁혀지지 않고 있다.

미국은 LAW 규제 반대 진영의 대표 격이다.
미국은 국제인권법만으로 LAW의 개발과 사용을 제어할 수 있으며 새로운 법적 구속이 자국에 불리하단 입장이다. 기존의 국제인권법이 이미 민간인을 대상으로 하는 무기 사용이나 과도한 피해를 금지하고 있기 때문에 추가적인 무기 사용에 대한 법적 구속력은 필요치 않다는 것이다.

제네바 유엔 건물 [사진: 셔터스톡]

조슈아 도로신(Joshua Dorosin) 미 국무부 국제협정 수석 책임자는 지난 5월 진행된 관련 토론에서 "'반드시'(must)라는 단어는 우리 대표단이 받아들이기 매우 어려울 것"이라고 말하며, 국제법상 LAW 구속에 대한 미국의 거부 의사를 밝혔다.

미국 외에도 러시아, 호주, 이스라엘 등이 새로운 국제법이 현시점에선 필요하지 않다고 의견을 모았다.

관련해 콘스탄틴 보론초프(Konstantin Vorontsov) 러시아 외무부 비확산‧궁비통제국 부국장은 NYT로 "지금이 정말 적절한 시기라고 생각하지 않는다"고 말했다.

LAW 개발에 공격적인 투자를 감행하고 있는 중국의 경우, LAW 개발 및 사용에 있어 일부 법적 제한을 두고 있다. 다만 매우 소극적인 법률 정의로 실효는 크지 않을 것으로 전문가들은 분석한다.

조 바이든 미국 대통령과 시진핑 중국 국가주석 [사진: 연합뉴스]

이런 가운데 지난 15일(현지시간) 아시아태평양경제협력체(APEC) 정상회의 후 미·중 정상회담이 진행됐다. 회담에서 당초 바이든 미국 대통령과 시진핑 중국 국가주석은 AI 무기 사용에 대해서도 논의할 계획이었으나, 관련해 아직 공식적인 입장은 밝히지 않았다.

NYT는 두 정상이 회담에서 핵무기 배치 결정에 있어 AI 사용에 대한 잠재적인 제한에 대해 논의했다고 보도했다.

관련법 마련 전 LAW 일반화 우려...러우전쟁서 위험 드러나

LAW 규제 찬성 진영에 선 국가들은 관련법이 채 마련되기도 전에 LAW가 일반화될 것을 우려하는 모습이다. 이들은 AI 시스템이 탑재된 LAW가 확산한 이후에는 통제가 불가능하며 확산 속도도 매우 빠를 것으로 주장한다.

알렉산더 크멘트(Alexander Kmentt) 오스트리아 외무부 군축·군비통제 및 비확산 국장 겸 대사는 NYT와의 인터뷰에서 "이것(LAW)은 실제로 인류에게 중요한 변곡점 중 하나다"라며 LAW의 위험성을 경고했다. 이어 그는 무력 사용에서 인간의 역할이 무엇인지 생각해야 한다며, LAW에 관한 규제 논의가 "절대적으로 근본적인 안보 문제이고 법적 문제이자 윤리적 문제"라고 강조했다.

강대국이 취하고 있는 LAW에 대한 입장은 제3세계국을 포함한 약소국의 불안을 가중한다. 이들은 LAW 사용 규칙에 대한 합의가 이루어지기 전에 치명적인 살상력을 가진 자율화 무기가 전장에서 일반화될 것을 우려한다.

칼리 하시미(Khalil Hashmi) 파키스탄 대사는 최근 유엔 회의에서 "기술혁신을 준비하면서 행동할 기회의 창이 급속히 줄어들고 있다"라고 발언했다.

우크라이나 상공에서 폭발한 드론 [사진: 연합뉴스]

러시아-우크라이나 전쟁에서도 LAW의 위험성을 엿볼 수 있다. 우크라이나에서는 통신과 GPS(위치정보파악시스템)를 교란하는 재밍(전파방해) 전술이 흔히 사용되는데, 조종사와 드론의 교신이 끊어진 경우 자율가동 기능을 부여할 수 있다.

이처럼 과거에는 살상용으로 드론을 쓰려면 인간의 조작을 거쳐야 했지만, 현재 전장에서는 인간과 자율가동 기능이 혼합 사용되고 있다. 나아가 머지않은 시점에 더 많은 드론이 스스로 목표물을 찾아 공격 여부를 선택하게 될 가능성은 충분하다.

여기에 대해 개스턴 브라운(Gaston Browne) 앤티가 바부다 총리는 "이것은 디스토피아 소설의 줄거리가 아닌 다가올 현실이다"라고 유엔 회의에서 말했다.

나아가 이들은 LAW가 생명을 앗아가는 결정에 있어 인간이 수행하는 직접적인 도덕적 역할을 제거함으로써 전쟁의 본질을 바꿀 것이라 주장한다. LAW가 살상에 대한 도덕적 해이를 불러올 수 있다는 것이다.

새로운 무기들이 전시 중 치명적인 공격 가능성을 높인다는 의견도 있다. LAW는 병력에 즉각적인 위협을 가하지 않아 전력 향상을 유발할 수 있다는 것인데, 이럴 경우 확전 가능성이 커진다.

미군, 대대적 LAW 배치 준비...'인간 개입' 어디까지?

세계 곳곳에서 전쟁이 진행 중인 가운데, 미국은 AI 기반 LAW 도입에 속도를 내고 있다.
캐슬린 힉스(Kathleen Hicks) 미 국방성 부장관은 21일(현지시간) 기자들과 만나 이 무기체계의 초기 단계를 구성할 드론을 12월 중순께 선정할 예정이라고 말했다고 블룸버그통신 등이 보도했다.

앞서 8월 미국 국방성은 미군에 자율형 무기를 대대적으로 배치할 준비를 하고 있음을 공식적으로 밝힌 바 있는데, 이 때 힉스 부장관은 "미군이 향후 2년 내 수천 규모의 자율형 살상 시스템을 배치할 것"이라고 말했다.

힉스 부장관 [사진: 연합뉴스]

이어 그는 중국의 첨단 무기 투자에 경쟁하기 위해 미국이 "작고 영리하며 저렴한 다양한 플랫폼을 활용할 필요가 있다"라며 '레플리케이터'(Replicator)라는 이름의 저비용 LAW 도입 구상을 밝혔다.

LAW에 대한 개념은 완전히 새로운 것은 아니다. 자동폭파지뢰는 미국 남북전쟁 이후부터 사용돼 왔다. 미군은 레이더 센서를 활용해 자동으로 목표물을 추적하고 타격하는 다양한 미사일 시스템을 보유하고 있다.

하지만 국가 안보 문제에서 논란이 되는 것은 LAW에 AI가 도입되는 것이다. LAW에 AI가 장착되면 무기 시스템이 정보를 수집하고 처리한 뒤 스스로 살상에 대한 결정을 내릴 수 있게 된다.

NYT에 따르면, 미국은 이미 올해 개정된 '무기 시스템의 자율성'이라는 국방부 정책과 국무부의 '인공지능의 책임 있는 사용에 관한 정치적 선언'을 포함, AI와 LAW의 사용에 대한 제한을 설정하는 정책을 자발적으로 채택한 바 있다. 또 자율적으로 다른 나라들 또한 이와 같은 정책을 수용할 것을 국제사회로 촉구했다.

보니 데니스 젠킨스(Bonnie Denise Jenkins) 미 국무부 차관은 정책 성명을 내며 "국가들이 AI의 잠재적 이점을 활용할 수 있게 해줄 것이다. 무책임하고 불안정하며 무모한 행동을 피하는 조치를 장려하는 동시에 군사 시스템을 보호해야 한다"라고 말했다.

미국 캘리포니아주 샌프란시스코 시청에서 킬러 로봇 도입에 반대하는 시민들이 시위하고 있다 [사진: 셔터스톡]

이러한 미 국방성 정책에 따라, 미국은 국방장관의 승인이 없이는 새로운 자율무기의 사용이나 개발을 금지하고 있다. 또 LAW는 제한된 기간 지정된 지리적 영역에서 작동돼야 한다. 만약 무기가 AI에 의해 제어되는 경우 군인은 의도치 않은 동작을 하도록 배치된 시스템을 해제하거나 비활성화하는 능력을 보유해야 한다.

미 공군 장성들은 NYT와의 인터뷰에서 적어도 LAW 사용 초기에는 살상 명령 수행 전에 인간의 승인이 필요할 것이라 밝혔다. 다만 이들 모두가 의견을 같이하는 건 아니다.

프랭크 켄달(Frank Kendall) 미 공군장관은 해당 인터뷰 종료 후 별도로 "이러한 기계(LAW)는 결국 스스로 치명적인 조처를 할 수 있는 능력을 갖추면서 배치 방법에 대해서는 인간의 감독을 받아야 한다"라고 NYT로 말했다. LAW가 인간의 승인을 거쳐야만 LAW가 동작하는 것이 아닌, 배치 방법에서만 인간이 관여하면 된다는 의견이다.

LAW 사용이 재래식 전쟁에서 불필요한 사망자를 줄일 수 있다는 주장도 있다.

토마스 X.헤임스(Thomas X. Hammes) 미 국방성 국방대학교 연구원은 "자율무기를 만들고 사용하는 것이 미국과 다른 민주주의 국가들이 지켜야 할 도덕적 의무"라며 "주요 재래식 전쟁에서 (LAW를 사용하지 않으면) 군 병력과 민간인 모두 많은 사망자를 내고 잠재적인 분쟁에 따른 손실이 발생할 것"이라고 강조했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>