유엔 ‘인공 지능 킬러 로봇’ 첫 공식 논의… 찬반 논쟁 본격화

당장 금지안 도출 가능성은 낮아… “이제 막 출발선 섰을 뿐”

영화 ‘터미네이터 제네시스’에 등장하는 킬러 로봇 T-800. AP 자료사진

인공지능(AI)이 탑재된 살인 무기, 이른바 ‘킬러 로봇’을 두고 유엔이 첫 공식 논의를 시작한다. 인간 대신 전투를 수행한다는 점에서 킬러 로봇의 효용을 주장하는 쪽도 있지만, 기계가 스스로 판단해 인간을 살해한다는 점에서 인류에 미칠 부작용이 가공할 수준이 될 수 있다는 국제사회의 우려가 경고도 잇따르고 있어 찬반 논쟁이 본격화할 전망이다.

12일(현지시간) AFP통신에 따르면 13일부터 닷새 간 스위스 제네바에서 열리는 유엔 특정재래식무기금지협약(CCW) 회의에선 킬러 로봇 문제가 논의될 예정이다. 유엔 차원에서 인공지능 무기 찬반 논의가 벌어지는 것은 이번이 처음이다. 지난 8월 일론 머스크 테슬라 최고경영자(CEO) 등 세계 26개국의 AIㆍ로봇 업계 기업인과 과학자 116명이 유엔에 보낸 공동서한에서 ‘AI를 활용한 로봇 무기 개발의 금지’를 강력히 촉구한 데 따른 후속 조치로 보인다.

실제로 킬러 로봇은 악용 우려에서부터 ‘로봇이 세상을 지배할 것’이라는 종말론적 공포에 이르기까지, AI 관련 논란의 중심에 있다. 시민단체 활동가들은 “선량한 민간인들에게 엄청난 피해를 야기할 것”, “독재자나 테러리스트 손에 들어가거나 해킹을 당하면 대형 참사가 빚어질 것” 등 경계의 목소리를 쏟아내고 있다. AI 연구분야 전문가들 상당수도 뚜렷한 반대 목소리를 내고 있는 상황이다.

그러나 이번 유엔 회의를 통해 ‘킬러 로봇 금지안’이 도출될 가능성은 매우 낮아 보인다. 회의를 주재하는 아만디프 길 인도 군축대사는 “단칼에 금지하는 게 쉬운 처방이지만 매우 복잡한 문제의 결론을 바로 내리는 것은 현명치 않다”며 “이제 막 출발선에 섰을 뿐”이라고 말했다. 때문에 금지 논의는 고사하고, 킬러 로봇과 유사한 장치를 규제하는 협약안조차 마련될 가능성도 크지 않다는 관측이 나온다.

그보다는 시민단체와 첨단기술 기업 등이 참여, 킬러 로봇의 유형을 제대로 ‘이해’하는 데 초점을 둔 토의시간이 벌어질 예정이다. 일단 킬러 로봇 반대론의 핵심 논거는 ‘살해 또는 파괴 결정의 주체는 궁극적으로 사람이어야만 한다’는 타협 불가능한 명제다. 시민단체 ‘킬러 로봇을 막을 캠페인’은 “전쟁범죄 피의자가 될 수 없는 킬러 로봇이 알고리즘을 통해 개별적 공격 여부를 결정하는 것은 국제인도주의법 위반”이라면서 애초부터 킬러 로봇은 ‘불법’이라고 주장하고 있다.

이와 관련, 길 대사는 “생사 관련 결정은 인간이 책임져야 한다는 데에는 공감대가 있다”고 분위기를 전하기도 했다. 그러면서도 그는 치명적 무기가 ‘인간의 통제’를 거치도록 하는 기술을 둘러싸고 여러 의견이 개진되고 있다고 밝혔다. 당장 국제인도주의법을 보호할 권한을 부여받은 국제적십자위원회(ICRC)도 킬러 로봇과 관련, 금지보다는 제한을 두자는 절충론의 입장을 보이고 있다. ‘AI의 살상무기화’를 둘러싼 논쟁이 단기간에 종료되기보다는 향후 상당한 시간에 걸쳐 지속될 것이라는 전망이 나오는 이유다.

김정우 기자 wookim@hankookilbo.com