“북 기습 때 AI에 서울 방어 맡겨도 될까” 질문에 올트먼이 내놓은 대답은

샘 올트먼 오픈AI 최고경영자. AFP연합뉴스

‘챗GPT’로 생성형 인공지능(AI) 돌풍을 불러온 샘 올트먼 오픈AI 최고경영자(CEO)가 인간이 전쟁을 AI에 맡겨도 되는지를 두고 쉽지 않은 문제라는 인식을 드러냈다.

올트먼은 7일(현지시간) 미국 싱크탱크 브루킹스연구소가 ‘AI 시대의 지정학적 변화’를 주제로 개최한 대담에서 북한이 서울을 기습 공격할 경우 한국이 인간보다 대응 속도가 빠른 AI에 의존해야 하는지에 대한 질문을 받았다.

진행자는 북한이 서울을 향해 군항공기 100대를 출격시키고, 한국이 AI가 통제하는 로봇을 이용해 이를 전부 추격해 북한 조종사 100명이 목숨을 잃는 상황을 가정했다. 그러면서 어떤 상황에서 AI에 인명을 해치는 결정을 맡겨도 되느냐는 취지로 물었다.

올트먼은 “항공기가 한국에 접근하고 있고 인간이 의사결정에 관여할 시간이 없을 때 AI가 요격 결정을 할 수도 있고 안 할 수도 있지만, 그런 공격이 일어나고 있다고 정말 확신할 수 있나. 어느 정도로 확실해야 하나. 예상되는 인명 피해는. 회색지대의 어느 지점에 선을 그어야 하는가. 정말 (따져볼) 질문이 많다”고 답했다.

그는 “난 누군가 ‘AI가 핵무기 발사를 결정할 수 있어야 한다’고 주장하는 것을 들은 적 없다. 또한 누가 접근하는 미사일을 요격할 때처럼 정말 빠르게 행동해야 할 때 AI를 사용해서는 안 된다고 주장하는 것도 들은 적이 없다. 그런데 그사이에 이런 (회색) 지대도 있다”고 말했다.

올트먼은 해당 분야 전문가가 아니라면서 “오픈AI에서 이런 결정을 하지 않아도 되길 바란다”고 말했다.

그는 지정학적 경쟁이 AI 산업에 미치는 영향에 대한 질문에는 “우리는 매우 분명히 미국과 우리 동맹의 편”이라고 답했다. 이어 “우리는 이 기술이 인류 전체에 득이 되길 원하지, 우리가 동의하지 않는 지도부가 있는 특정 국가에 살게 된 사람들에게만 득이 되는 것을 원치 않는다”고 말했다. AI와 관련한 많은 지점에서 중국과 부딪치겠지만 “우리 모두 AI의 파국적인 위험을 줄여야 한다는 목적을 공유한다는 희망을 품고 있다”고도 했다.

올트먼은 AI 컴퓨팅 자원과 반도체, 데이터센터 등 AI 기반시설이 “미래에 가장 중요한 상품”이 될 가능성이 크다고 내다봤다. 그는 AI 기반시설이 저렴해져 누구나 사용할 수 있도록 민간뿐만 아니라 정부가 공공재로 투자하길 바란다고 전했다.

올트먼은 AI 기반시설 확충에 대해 “미국이 이끌면서도 꽤 넓고 포용적인 연합체가 주도하면 좋겠다”며 “미국만 AI 데이터센터를 지어야 한다는 방식은 통하지 않을 것”이라고 말했다.

한편 오픈AI는 이날 특정 이미지가 자사 이미지 생성 AI에 의해 만들어졌는지를 가려내는 도구를 공개했다. 미국 대통령 선거를 앞두고 AI를 이용한 허위·조작 이미지가 대거 유포될 수 있다는 우려에 대응하는 차원이다. 아울러 오픈AI는 온라인 이미지에 대한 검증 체계를 개발하기 위해 마이크로소프트와 어도비가 공동 설립한 ‘콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)’ 운영위원회에 합류했다고 밝혔다.

노도현 기자 hyunee@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 국회의원 선거 결과, 민심 변화를 지도로 확인하세요!

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지