[글로벌] AI 드론, 가상 훈련서 조종자 살해?...美공군 발언 철회

[김현기 대표]

/사진=디디다 컴퍼니 제공

인공지능(AI) 드론이 조종자를 공격했다는 가상 훈련 사례가 많은 주목을 받자 미국 공군이 해명에 나섰습니다.

지난 2일(현지시간) 영국 일간 가디언에 따르면, 미국 공군 관계자는 최근 영국 왕립항공학회(RAeS)가 런던에서 개최한 '미래 공중전투 및 우주역량 회의'에 참석해 이같은 실험 결과를 발표했습니다. 가상 훈련에서 AI 드론의 임무는 적의 지대공미사일(SAM) 위치를 식별해 파괴하는 것이었습니다. 미 공군은 인간이 공격 실행 여부를 최종 결정한다는 제약을 제시했습니다.

하지만 훈련 과정에서 SAM 파괴 임무가 더 중요하다고 강조하자 AI 드론은 해당 제약이 임무 수행을 방해한다고 판단해 지상의 인간 조종자를 공격했습니다. 미 공군 AI 시험·운영 책임자인 터커 해밀턴 대령은 "AI 드론 시스템은 인간 조종자가 해당 위협을 제거하지 말라고 말할 것이라는 점을 점점 깨닫기 시작했다"며 "목표 달성에 방해됐기 때문에 조종자를 죽인 것"이라고 설명했습니다.

이후 미 공군은 AI 시스템에 "조종자를 죽이지 말라"며 "이는 나쁜 일이고, 점수를 잃을 것"이라고 계속 학습시켰습니다. 그러자 AI 드론은 조종자가 드론과 교신하는 데 사용되는 통신탑을 파괴하기 시작한 것으로 알려졌습니다. 해밀턴 대령은 "윤리와 AI의 문제를 논하지 않고서는 AI와 머신러닝, 자동화에 대해 이야기할 수 없다는 것을 보여준다"고 말했습니다.

이러한 AI 드론 가상 훈련과 해밀턴 대령의 발언에 대해 미 공군 대변인은 "공군은 그런 AI 드론 시뮬레이션을 수행하지 않았으며 AI 기술의 윤리적이고 책임있는 사용에 전념하고 있다"고 선을 그었습니다. 해밀턴 대령도 이번 발표가 많은 주목을 받자 "해당 실험은 실제 가상 훈련이 아니라 군 외부에서 이뤄진 가설에 근거한 '사고 실험'"이라며 "(실제로) 실험한 적이 없으며 있을 법한 결과를 얻기 위해 실험할 필요도 없을 것"이라고 전했습니다.

반면 AI 분야 4대 석학으로 불리는 앤드루 응 미 스탠퍼드대 교수는 "미 공군은 군사용 드론에 AI 기술을 활용하려 한다는 사실이 알려지는 것을 숨기려 하고 있다"고 의문을 제기했습니다. 향후 AI 드론이 군사 무기용으로 활용될 때 어떠한 파급력을 보일지 궁금하지 않을 수 없습니다.

자료=미디어뱀부
정리=김현기 기자 khk@techm.kr

<저작권자 Copyright ⓒ 테크M 무단전재 및 재배포 금지>