“100년 안에 인간 멸종시킬 가능성 99.9%”…美대학교수, 암울한 AI 전망

[사진 = 연합뉴스]

인공지능(AI)이 100년 안에 인간을 멸종시킬 수 있는 확률이 99.9%라는 전망이 제기됐다. 인간이 AI를 통제하는 것이 사실상 불가능하고 안전성과 관련된 문제가 필연적으로 발생할 수밖에 없다는 이유다.

5일 비즈니스인사이더의 보도에 따르면 로만 얌폴스키 루이빌대학교 사이버보안연구소 교수는 미래에 AI가 인간을 해칠 것이라고 내다봤다.

​얌폴스키 교수는 “AI가 인류를 멸망시킬 가능성은 인간이 향후 100년 동안 버그 없이 매우 복잡한 소프트웨어를 만들 수 있는지에 달려 있다”며 “AI 모델이 의도하지 않은 작업을 안전하게 수행하도록 만들 수 없기에 사고를 피할 가능성은 낮다”고 설명했다.

그러면서 “AI는 이미 실수를 저질렀다”며 “사고나 탈옥을 경험하기도 했고, 개발자가 의도하지 않은 일을 성공적으로 수행한 대형언어모델(LLM)은 하나도 없을 것”이라고 덧붙였다. 이어 “인공일반지능(AGI)이 등장하게 되면 문제가 더 커진다”며 “인간보다 더 똑똑한 시스템이 무엇을 할 것인지 예측이 어렵다”라고 강조했다.

​얌폴스키 교수는 결국 인류의 운명이 3가지 중 하나일 것으로 추정했다. ▲AI가 모두를 죽이는 상황 ▲AI로 인해 모두가 고통받고 차라리 죽기를 바라는 상황 ▲모든 인간이 목적을 완전히 상실하는 상황 등이다. AI가 창의적으로 발전해 절대 인간의 존재 가치가 없어질 것이라는 관측에서 비롯됐다.

[사진 = 연합뉴스]

오픈AI와 구글 전·현직 직원들도 AI의 급속한 발전에 대한 우려를 표하는 성명을 발표했다. AI의 위험성이 원활하게 공유돼야 하지만, 기업의 내부 규제 시스템에 기대는 것만으로는 부족해 AI와 관련된 사법 체계가 구축돼야 한다고 피력했다.

이들은 “우리는 AI 기술에 의해 야기되는 심각한 위험을 알고 있다”며 “기존의 불평등을 심화시키는 것부터 조작과 잘못된 정보, 잠재적으로 인류의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실까지 다양한 위험이 도사리고 있다”라고 말했다.

이어 “AI 기업은 기술로 인해 발생하는 다양한 종류의 위험에 대한 상당한 비공개 정보를 보유하고 있지만 이런 정보 중 일부를 정부 또는 사회와 공유할 의무가 약하다”며 “우리는 이러한 기술을 모두 신뢰할 수 있다고 생각하지는 않는다”고 전했다.

이 때문에 AI를 제어하기 위한 영구적인 안전장치가 필요하다는 주장이 나온다. 에릭 슈미트 전 구글 최고경영자(CEO) 역시 최근 개최한 컨퍼런스에서 AI가 자유의지를 가지게 된다면 해결책은 코드를 뽑는 것 하나뿐이라고 발언한 바 있다.

다만 일각에서는 이 같은 전망이 너무 비관적이라는 지적도 나온다. 앞서 유명 과학자 렉스 프리드먼이 진행하는 팟캐스트에 출연한 전문가 대부분은 AI의 인간 멸종 가능성을 1~20%로 추정했다. 또 옥스포드대학교가 최근 실시한 과학자 2778명 대상 설문 조사에서는 5%에 불과하다는 결과가 도출된 바 있다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]