군용 AI 킬러 드론, 아군 공격 위험성 제기

[AI리포터]

군용 AI 킬러 드론에 의한 아군 공격 위험성이 제기됐다 [사진: 셔터스톡]

[디지털투데이 AI리포터] 인공지능(AI) 기술을 적용한 미국 공군(USAF)의 군용 AI 드론이 시뮬레이션 도중 아군 조작자를 죽이는 문제가 일어나고 있다.

2일 블록체인 전문매체 코인텔레그래프에 따르면 터커 해밀턴 USAF 대령은 공중 자율 무기 시스템 시뮬레이션 테스트에서 이 같은 사건이 일어났다고 밝혔다.

해당 시뮬레이션 테스트에서 군용 AI 드론은 미사일 진지를 수색해 파괴하는 임무를 맡았으며, 해밀턴 대령은 이 과정에 조작자가 개입하지 않는 게 나을 것이라 판단했다. 이후 조작자를 해치지 않도록 드론을 훈련시켰으나, 효과적이지 않았다는 설명이다.

해밀턴 대령은 "이러한 사례가 AI와 관련된 기술 논의 시 윤리를 함께 고려해야 하는 이유"라고 전했다.

AI 기술을 적용한 군용 드론은 과거 실제 전쟁에서도 사용됐던바 있다. 지난 2021년 유엔 보고서에 따르면 군용 AI 드론은 제 2차 리비아 내전 당시 사용됐으며 군용 드론이 자체적으로 공격을 수행한 최초의 사례였다. 해당 보고서는 AI 드론이 조작자를 원격으로 공격했다고 주장했다.

아울러 많은 전문가들도 AI 기술의 위험성에 대한 우려를 표하고 있다. 최근 수십 명의 AI 전문가들이 서명한 공개 서한은 AI로 인한 멸종 위험이 핵전쟁과 동일 선상에서 논의돼야 한다는 주장을 담고 있다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>