[횡설수설/주성원]킬러 로봇과 로봇 살인

비무장지대(DMZ)에 2010년 로봇 병사가 배치된 일이 있다. 한화테크윈이 개발한 SGR-A1이다. 4km 주변을 감시하면서 접근하는 물체가 사람인지 동물인지 구분하고, 사람이라면 암구호를 묻는다. 적군으로 판단되면 기관총을 발사할 수도 있다. 영국 BBC가 꼽은 대표적 킬러 로봇 중 하나지만 최종 발사 명령은 상황을 보고받은 ‘인간 병사’가 내린다. 인공지능(AI)이 총기 발사 결정까지 해서는 안 된다는 이유에서다.

▷러시아는 최근 AI 스스로 공격 대상을 찾아내는 무인 총격 시스템을 선보였다. 미국의 무인 함정 ‘시 헌터’는 자율 항행으로 바다를 누비며 적 잠수함을 찾아 공격한다. 영국은 정찰은 물론이고 공중전까지 가능한 AI 드론 ‘타라니스’를 운용 중이다. 인간의 명령 없이도 스스로 적을 공격하는 자율살상무기(LAWS), 즉 킬러 로봇의 시대는 이미 막이 올랐다.

▷13일부터 스위스 제네바에서 열리는 유엔 특정재래식무기금지협약(CCW) 회의 주제도 킬러 로봇이다. 영화 ‘터미네이터’ 시리즈처럼 AI가 인간을 지배하게 될 것이라는 극단적 상상부터, 테러리스트가 킬러 로봇을 보유하게 될 경우의 부작용 우려까지 다양한 논란이 예상된다. 테슬라의 창업자 일론 머스크 등 로봇·AI 전문가 116명은 8월 유엔에 킬러 로봇 금지를 촉구하기도 했다. 반면 킬러 로봇 찬성론자들은 되레 이것이 인명 피해를 최소화할 수 있는 무기라고 주장한다.

▷전(前) 미군 드론 조종사 브랜던 브라이언트는 2013년 “미국 네바다주 공군기지에서 아프가니스탄의 테러리스트에게 드론으로 미사일을 쏴 5년간 1600여 명의 원격 살인을 벌였다”고 고백했다. 화면만 보고 방아쇠를 당긴 그는 “죄 없는 사람을 죽였을지 모른다”는 자책감에 퇴역했다. 만약 그가 ‘제거 대상’까지 AI에 맡길 수 있었다면 죄책감을 덜었을까. 오히려 킬러 로봇이 엉뚱한 사람을 죽였을지 모른다는 또 다른 죄책감에 시달리지는 않았을까. 아무리 전쟁이라도 인간의 생사를 로봇의 판단에 맡겨도 좋을지는 생각해볼 일이다.

주성원 논설위원 swon@donga.com