“북한 서울 공격하면 AI로봇에 방어 맡겨도 되나”…올트먼의 답변

“따져봐야할 것 많아…쉽지 않은 문제”

인간이 전쟁을 인공지능(AI)에 맡겨도 되는지를 두고 논란이 일고 있는 가운데 AI 산업의 대부로 알려진 샘 올트먼 오픈 AI 최고 경영자게 쉽지 않은 문제라고 했다. 자료사진. [사진출처 = 연합뉴스]

인간이 전쟁을 인공지능(AI)에 맡겨도 되는지를 두고 논란이 일고 있는 가운데 AI 산업의 대부로 알려진 샘 올트먼 오픈 AI 최고 경영자게 쉽지 않은 문제라고 했다.

울트먼은 7일(현지시간) 워싱턴 싱크탱크인 브루킹스연구소가 ‘AI 시대의 지정학적 변화’를 주제로 연 대담에서 북한이 서울을 기습 공격해 한국이 이를 방어하려면 인간보다 대응 속도가 빠른 AI에 의존해야 하는 상황에 대해 질문을 받았다.

진행자는 북한이 서울을 향해 전투기 100대를 출격시키고 한국이 AI가 통제하는 로봇 무리를 이용해 항공기를 전부 격추해 북한 조종사 100명이 목숨을 잃는 상황을 가정하고서 어떤 상황에서 AI에 사람을 죽이는 결정을 맡겨도 되느냐는 취지로 질문했다.

이에 올트먼은 “항공기가 한국에 접근하고 있고 인간이 의사 결정에 관여할 시간이 없을 때 AI가 요격을 결정할 수도 있고 안 할 수도 있지만 그런 공격이 일어나고 있다고 정말 확신할 수 있나? 어느 정도로 확실해야 하나? 예상되는 인명 피해는? 회색지대의 어느 지점에 선을 그어야 하는가? 정말 따져봐야 할 것이 많다”고 말했다.

이어 “난 누군가 ‘AI가 핵무기 발사를 결정할 수 있어야 한다’고 주장하는 것을 들은 적이 없다”며 “또한 누가 접근하는 미사일을 요격할 때처럼 정말 빠르게 행동해야 할 때 AI를 사용해서는 안된다고 주장하는 것도 들은 적이 없다. 그런데 그 사이에 이런 지대도 있다”고 덧붙였다.

그러면서 이런 내용은 자신의 전문 분야가 아니라고 시인하면서 “오픈AI에서 이런 결정을 하지 않아도 되길 바란다”고 했다.

그는 지정학적 경쟁이 AI 산업에 미치는 영향에 대해 질문을 받고서는 “우리는 매우 분명히 미국과 우리 동맹의 편”이라고 답했다.

이어 “인도주의적인 면도 있는데 우리는 이 기술이 인류 전체에 득이 되기를 원하지, 우리가 동의하지 않는 지도부가 있는 특정 국가에 살게 된 사람들에게만 득이 되는 것을 원치 않는다”고 말했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]