xAI "그록 '백인학살' 언급은 내부 직원의 독단적 소행"...시스템 프롬프트 공개로 무고 입증

[박찬 기자]

(사진=셔터스톡)

xAI가 챗봇 '그록(Grok)'의 오류가 내부 직원의 독단적인 시스템 프롬프트 수정 때문이었다고 해명했다. 이를 입증하기 위해 그록에 적용하는 시스템 프롬프트까지 공개했다.

xAI는 16일(현지시간) X(트위터)를 통해 "14일 오전 3시15분경 그록의 프롬프트가 무단으로 수정됐으며, 이로 인해 그록이 정치적 주제에 대해 특정 응답을 제공해 내부 정책과 핵심 가치를 위반하게 됐다"라고 발표했다.

또 "철저한 조사를 수행했으며 그록의 투명성과 신뢰성을 강화하기 위한 조치를 시행하고 있다"라고 밝혔다.

이번 사태가 xAI가 의도한 것이 아니라는 것을 입증하기 위해 깃허브를 통해 그록에 적용하는 시스템 프롬프트를 공개한다고 선언했다. 사용자들은 이를 살펴보고 피드백을 제공할 수 있다.

시스템 프롬프트는 AI의 답변 방향을 결정하는 지침이다. 대부분 AI 기업은 이를 비밀로 유지한다.

하지만 공개된 내용에 따르면, xAI는 그록에 극도로 회의적인 태도를 유지하도록 지시하고 있으며 주류 언론이나 권위에 대해 맹목적으로 따르지 않도록 강조하고 있다. 진실을 추구하고 중립성을 지키는 것을 핵심 가치로 삼아야 한다는 지침도 포함돼 있다.

또 그록은 답변에 '트위터'나 '트윗'이라는 단어 대신, X나 '포스트'라는 용어를 사용하도록 입력됐다.

https://twitter.com/xai/status/1923183620606619649

이번 사건은 그록이 지난 14일부터 묻지도 않은 남아프리카공화국의 '백인 집단학살'이라는 음모론에 대한 설명을 내놓은 일이다. 야구선수의 연봉을 묻는 말에도 "남아공에서는 백인 차별이 일어나고 있다"라는 내용을 무차별로 반복한 것이다.

특히 이는 도널드 트럼프 대통령과 xAI의 소유주인 일론 머스크 CEO가 평소 주장하던 내용으로, 일부에서는 지시에 따른 것이 아니냐는 추측이 등장했다. 샘 알트먼 CEO도 전날 X에서 이 사건을 언급하며 무엇이 이유인지 안다는 식의 암시를 남겼다.

xAI는 "앞으로는 직원이 검토 없이 프롬프트를 수정할 수 없도록 추가적인 확인 및 조치를 마련할 것"이라며 "그록이 더 신뢰받는 AI가 되도록 철저한 검토와 개선을 이어갈 것"이라고 강조했다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>