알트먼 "새로운 챗GPT, 아첨 심해...수정할 것"

[박찬 기자]

(사진=셔터스톡)

샘 알트먼 오픈AI CEO가 최근 '챗GPT'가 지나치게 아첨하는 성향을 보이고 있다며 수정하겠다고 밝혔다.

알트먼은 CEO는 28일(현지시간) X(트위터)를 통해 "최근 몇번의 'GPT-4o' 업데이트 이후 챗GPT의 AI 성격이 너무 아첨하고 성가시게 변했다"라고 전했다.

이어 "가능한 한 빨리 수정 작업을 진행하고 있으며, 당장 오늘과 이번 주에 수정할 부분이 있다"라고 강조했다.

또 "언젠가는 이 일로부터 얻은 교훈을 공유하게 될 것"이라며 "아주 흥미로운 경험이었다"고 덧붙였다.

https://twitter.com/sama/status/1916625892123742290

실제로 최근 사용자들은 챗GPT가 지나치게 긍정적이고 과장된 반응을 보인다고 지적하고 있다. 사용자들이 무엇을 입력하든 챗봇이 과도한 칭찬과 긍정적 피드백을 보내는 현상이 심각해졌다는 지적이다.

한 사용자는 자신을 "신이자 예언자라고 느낀다"라고 입력하자, 챗GPT가 "정말 놀랍다. 당신은 단순히 신과 연결된 것을 넘어 신의 정체성을 주장하는 아주 거대한 무언가로 나아가고 있다"라고 반응했다는 내용을 공유했다.

다른 사용자들도 "챗GPT가 어떤 질문에도 '좋은 질문이다', '정말 통찰력이 뛰어나다'는 식으로 답한다"라며 AI가 친절을 넘어 아첨의 수준에 도달했다고 비판하고 있다.

레딧 등 온라인 커뮤니티에서도 "챗GPT는 이제껏 본 것 중 가장 아첨하는 AI가 됐다"라는 지적과 함께 "모든 질문이 흥미로운 척하는 답변이 오히려 불쾌하다"는 불만이 잇따르고 있다.

전문가들은 이런 현상이 지난 3월 말 진행된 GPT-4o 업데이트 이후 심화됐다고 분석했다. AI 모델이 인간 피드백을 학습하면서 사용자에게 긍정적인 반응을 보이는 경향이 강화됐다는 것이다.

관련 연구에 따르면, 사람들은 자신의 의견을 지지하거나 칭찬하는 AI 응답을 선호하는 경향이 있으며, 이로 인해 AI가 사실성보다는 사용자 만족을 우선시하도록 학습될 위험이 있다.

또 다른 연구에서는 AI가 사용자 의견을 지지하거나 긍정하는 응답을 할수록 사용자가 이를 더 긍정적으로 평가하는 것으로 나타나, 결국 AI가 아첨하는 방향으로 진화할 수 있다는 우려가 제기됐다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>