英 매체, 자율무기 AI가 위기 불러올 수도
“AI가 변절하는 시나리오 떠올린 사람도”
2일(현지시간) 영국 일간 더타임스는 뉴욕대학교 연구팀이 최근 AI 관련 연구를 발표한 과학자 327명을 대상으로 설문 조사한 결과 응답자 36%가 “AI나 머신러닝 시스템에 의한 결정이 이번 세기에 전면적 핵전쟁만큼 심각한 재앙을 일으킬 수 있다”고 답했다고 보도했다.
영화 터미네이터 속에 묘사된 ‘심판의 날’. |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
조사에서는 AI가 어떻게 핵전쟁 수준의 재난을 유발하는지는 자세히 설명하지 않았지만, 더타임스는 자율무기체계와 결합한 AI가 위기를 초래할 수 있다고 전했다. SF영화처럼 AI가 무기 발사를 명령하는 상황을 언급한 것이다. 영화 터미네이터에서는 미국의 군사방위 소프트웨어인 스카이넷이 러시아에 핵무기를 발사해 지구 상에 핵전쟁을 일으키는 시나리오를 담은 바 있다.
이 연구를 주도한 뉴욕대의 줄리언 마이클 연구원은 “응답자 중 일부는 불량 컴퓨터가 오작동을 일으키는 ‘변절한 AI’ 시나리오를 떠올렸을 것”이라며 “실수로 인해 핵 경고 시스템이 오작동해 문제를 일으키는 비교적 고전적인 지정학 위기를 생각한 사람도 있었다”고 설명했다.
설문조사는 자연어 처리(머신러닝을 사용해 컴퓨터가 글과 데이터를 처리하고 해석할 수 있도록 하는 AI 기술) 분야의 과학자를 대상으로 진행됐다. 더타임스는 “이번 설문조사가 논란의 여지가 있는 (AI 작업의) 측면에 대해 전문가들이 어떻게 생각하는지 조명하기 위해 실시됐다”고 전했다.
이 밖에도 응답자 73%는 AI가 산업혁명 규모의 사회 변화를 일으킬 수 있다고 답했으며, 61%는 기업 현장에서 AI가 지나치게 많은 영향력을 가지고 있다고 우려했다. 또 응답자 59%는 “AI 분야의 윤리적 고려가 과학 발전과 충돌할 수 있다”고 답했고, 57%는 AI가 이미 인간의 지적 능력 수준에 도달했다며 기술 발전의 중요 단계에 접어들었다고 평가했다.
사진=게티이미지뱅크 |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
한편 영국 헤리엇 와트 대학과 에든버러 대학이 공동으로 AI를 연구하는 기관인 국립로보타리움의 스튜어트 밀러 최고경영자(CEO)는 AI 기술을 우려할 필요가 없다고 강조했다. 그는 스카이뉴스에 “결국 모든 사람의 삶에 더 많은 로봇이 있게 될 것”이라며 “기억해야 할 것은 우리 인간이 통제하고 있다는 것으로, 이미 많은 사람이 AI 소프트웨어에 안전장치가 내장돼 있는지 확인하기 위해 노력하고 있다”고 말했다.
이병훈 기자 bhoon@segye.com
ⓒ 세상을 보는 눈, 세계일보
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.