스노우플레이크 CEO "AI 환각률 공개해야"…투명성 강조

[AI리포터]

[디지털투데이 AI리포터] 클라우드 기반 데이터 플랫폼 기업 스노우플레이크의 스리드하르 라마스와미(Sridhar Ramaswamy) 최고경영자(CEO)가 인공지능(AI) 환각 문제에 대한 투명성이 필요하다고 주장했다.

3일(현지시간) 비즈니스인사이더에 따르면 라마스와미는 최근 팟캐스트인 '로건 바틀렛 쇼'에 출연해 AI의 환각 문제를 논의했다.

그는 "살펴보면 모델이나 솔루션에 환각률을 공개하는 기업은 아무도 없다"라며 "마치 '우리는 너무 멋지니 그냥 우리를 사용하세요'라는 식"이라고 지적했다. 이어 "환각률 같은 것을 이야기하지 않는 것 자체가 AI 산업에 도움이 되지 않는다고 생각한다"라고 말했다.

라마스와미는 특히 기업의 재무 데이터 분석과 같은 중요한 애플리케이션에서는 AI 도구가 실수를 해서는 안 된다며 환각률을 투명하게 공개해야 하는 이유에 대해 설명했다.

AI 환각 현상은 AI가 실제로는 존재하지 않거나 관련이 없는 정보를 생성해 내는 문제로, 생성형AI의 성장을 가로막는 가장 큰 장애물로 지목받고 있기도 하다.

AI 환각을 옹호하는 일부 기술 거물도 있다. 샘 알트먼 오픈AI CEO는 "절대적으로 확실할 때만 대답하는 AI 모델은 마법을 잃게 될 것"이라며 "100% 확신할 수 없는 것은 절대 말하지 말라고 하면 그렇게 하도록 만들 수 있지만, 사람들이 그토록 좋아하는 마법은 없을 것"이라고 말하기도 했다.

앞서 자레드 캐플란 앤트로픽 공동 창업자 역시 최종 목표는 환각을 일으키지 않는 AI 모델이지만 가끔 발생하는 오류는 사용자에게 필요한 '트레이드오프'(tradeoff)라고 말한 바 있다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>