구글, 제미나이 '사고 사슬' 은폐로 항의 이어져

[박찬 기자]

(사진=셔터스톡)

구글이 인공지능(AI) 모델 '제미나이 2.5 프로'의 추론 과정을 숨기자, 개발자들이 강하게 반발하고 있다.

벤처비트는 20일(현지시간) 구글이 제미나이 2.5 프로에서 내부 추론 과정을 보여주는 사고 사슬(CoT) 기능을 비활성화하면서, 이를 활용해 왔던 개발자들의 반발이 일고 있다고 전했다.

이 기능은 모델이 답을 도출하기 전 중간 사고 단계들을 드러내는 일종의 '생각의 흔적'으로, 개발자들은 복잡한 문제 해결 구조를 파악하고 디버깅에 참고가 되는 핵심 기능으로 여기고 있다.

구글은 CoT를 완전히 가리는 대신, 오픈AI의 'o1'나 'o3'처럼 단계별 추론 내용을 요약된 형태로 대체했다. 또 이런 변경이 "단지 외형적인 변화일 뿐이며, 모델의 성능에는 영향이 없다"라고 해명했다.

그러나 개발자 커뮤니티에서는 이를 "심각한 퇴보"로 보고 있다. 한 개발자는 구글 포럼을 통해 "이제는 왜 모델이 실패했는지 추측밖에 할 수 없다"라며 "문제 해결을 위한 반복 작업이 답답하고 좌절스럽다"라고 밝혔다.

일부 개발자들에게 CoT 기능은 단순한 디버깅 도구 그 이상이라는 것이다. 복잡한 작업을 수행해야 하는 에이전트형 AI 시스템을 개발하거나 프롬프트를 정교하게 조정하려는 경우, 개발자는 모델의 '사고 경로'를 관찰하고 조율할 필요가 있다고 지적한다. 특히, 기업에서는 모델이 어떻게 의사결정을 내리는지 투명하게 보여주는 것이 신뢰 확보의 핵심으로 작용한다고 강조했다.

이 때문에 오픈AI와 구글이 추론 내용을 감추는 현상은, 오히려 '딥시크-R1'이나 알리바이의 'QwQ-32B' 같은 오픈 소스 모델들에게 기회를 주고 있다는 분석이다. 이들은 추론 과정을 완전히 공개하고 있다.

구글은 비판 여론을 일정 부분 수용하는 자세도 보였다. 로건 킬패트릭 딥마인드 제품 관리자는 "개발자들이 원시 추론 데이터를 원한다는 점을 잘 알고 있다"라며 "개발자 전용 도구인 AI 스튜디오에서는 이 기능을 복원하는 방안을 검토 중"이라고 밝혔다. 또 "API에서 추론 과정을 코드로 불러오는 기능이 처음으로 도입되는 과정"이라며 "현재의 요약 버전이 그 첫 단계"라고 덧붙였다.

그러나 전문가들은 단순한 사용자 경험 문제 이상의 구조적 이슈를 제기한다.

수바라오 캄밤파티 애리조나주립대 AI 교수는 최근 논문에서 "LLM이 생성하는 중간 토큰을 '생각'이나 '추론의 흔적'으로 간주하는 것은 위험한 환상일 수 있다"라고 경고했다. 따라서 그는 인간 교사가 학생에게 설명하듯, 결과 중심의 요약 설명이 일반 사용자에게 더 도움이 될 수 있다고 봤다.

한편, CoT 숨기기는 원래 오픈AI가 경쟁사에 영업 비밀을 감추려는 전략적 조치로 활용됐다. 모델이 생성하는 원시 추론 데이터는 경쟁사가 이를 수집해 소형 모델을 훈련는 '지식 증류(distillation)'에 활용될 수 있기 때문이다.

추론 과정을 비공개로 전환하면, 다른 기업들이 동일한 성능을 모방하기가 어려워지며 이는 곧 모델 제공자에게 중요한 경쟁 우위가 된다는 것이다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>