아모데이 "AI가 인간보다 환각 덜 느껴...환각은 AGI 판단 기준 아니야"

[박찬 기자]

다리오 아모데이 앤트로픽 CEO가 인공지능(AI)의 환각이 인공일반지능(AGI)에 도달하는 걸림돌이 아니라고 주장했다. 오히려 "AI가 인간보다 환각을 덜 한다"라며, 결국 환각을 없애는 것은 불가능할지 모른다는 점을 시사했다.

23일 테크크런치에 따르면, 아모데이 CEO는 앤트로픽의 첫번째 개발자 이벤트인 '코드 위드 클로드(Code with Claude)' 행사를 통해 이같이 밝혔다.

환각은 AI가 사실이 아닌 정보를 진짜처럼 생성해 내는 현상을 뜻한다. 아모데이 CEO는 이런 현상이 AI가 AGI에 도달하는 데 장애물이 아니며, 오히려 AGI를 향한 진전 중 일부 현상에 불과하다고 주장했다.

그는 "측정 방식에 따라 다르지만, AI 모델이 아마도 인간보다 더 적게 환각한다"라며 "특히, 더 놀라운 방식으로 헛소리를 내놓는다고 생각한다"라고 말했다.

즉, AI가 실수를 저지른다는 이유만으로 지능이 부족하다고 보는 시각을 반박한 것이다. "TV 진행자, 정치인, 여러 직업의 사람들도 끊임없이 실수한다"라며, AI도 인간처럼 오류를 범할 수 있다고 말했다. 다만, 그는 AI가 거짓 정보를 '확신에 찬 어조'로 전달하는 경향은 문제의 소지가 있다고 인정했다.

이번 발언을 단순한 자신감으로만 보기가 어려운 것은 앤트로픽이 그동안 이 분야에 대해서는 그 어떤 기업보다 많은 연구를 수행해 왔다는 점이다. 앤트로픽은 AI 안전을 최우선 과제로 내세우며 2년 전부터 '헌법 AI'라는 윈칙을 내세웠으며, 이후 모델의 '블랙박스'를 이해하기 위한 연구를 잇달아 발표했다.

또 이날 '클로드 4'를 공개하며 AI가 인간을 속이거나 협박하는 등의 문제점도 모두 공개했다. 단순히 모델이 안전하다고 강조하는 것을 피하고, 실제 일어날 수 있는 문제에 대해 집중적인 연구를 진행하고 있다.

그는 지난해 AGI가 2026년쯤 등장할 수 있다는 주장으로 주목받았으며, 이날 행사에서도 "전반적인 AI 수준이 빠르게 올라가고 있다"라고 밝혔다.

결국, 인간처럼 AI도 환각을 없애는 것은 불가능하며, 이 때문에 AI의 발전이 한계에 달했다고 보는 것은 잘못된 것이라는 주장이다.

실제로 오픈AI도 가장 진보한 모델인 'o3'와 'o4-미니'가 이전 모델보다 환각률이 높아졌다고 밝혔다. 특히 샘 알트먼 오픈AI CEO도 "환각을 없애려면 확실하지 않은 사실에 대해서는 모두 입을 닫고 있으라고 지시하면 간단하게 해결된다"라며, 대신 AI의 효용성은 크게 떨어질 것이라고 밝힌 바 있다.

하지만 그의 주장과는 달리, 다른 리더들은 환각이 AGI 도달의 핵심 장애물로 본다. 데미스 허사비스 구글 딥마인드 CEO는 이번 주 "현재 AI는 구멍이 너무 많고, 너무 많은 기본적인 질문에 틀린 답을 한다"고 지적했다.

이에 따라 앞으로 AGI에 대한 기준에 또 다른 논쟁의 요소가 추가될 것으로 보인다. 많은 전문가들은 사실과 허구를 구분하지 못하는 AI를 AGI로 볼 수 없다고 지적한다.

하지만 아모데이 CEO의 발언은 환각을 완전히 없애는 것은 인간처럼 원칙적으로 불가능한 것이며, 이를 AGI의 기준으로 삼는 것은 적절하지 않다고 밝힌 것이다.

또 앤트로픽은 AI의 안전성과 신뢰성을 강화하는 방식으로 이런 문제를 해결하겠다는 것으로 보인다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>