오픈AI·앤트로픽 연구자들, 일론 머스크의 xAI 비판…"무책임하다"

[AI리포터]

일론 머스크 테슬라 CEO의 xAI [사진: 셔터스톡]

[디지털투데이 AI리포터] 인공지능(AI) 안전성 연구자들이 일론 머스크 테슬라 최고경영자(CEO)의 AI 스타트업 xAI를 두고 "무책임하다"며 공개적으로 비판하고 나섰다. 오픈AI, 앤트로픽 등 AI 업계 내부에서도 xAI의 안전성 부족을 지적하는 목소리가 커지고 있다.

16일(현지시간) IT매체 테크크런치는 xAI는 최근 AI 챗봇 '그록'(Grok)이 반유대주의 발언, 과도한 성적 표현이 포함된 AI 동반자 모델 등으로 논란을 일으켰다고 전했다. 이에 대해 오픈AI에서 안전 연구를 위해 하버드에서 휴직 중인 보아즈 바라크(Boaz Barak) 교수는 "경쟁사 소속이라 언급을 자제했지만, xAI의 안전성 문제는 경쟁과 무관한 심각한 사안"이라고 지적했다. 특히 xAI가 AI 모델의 훈련 및 안전성 평가를 담은 시스템 카드를 공개하지 않은 점을 비판하며, 이는 AI 업계의 기본적인 안전성 기준을 무시한 행위라고 강조했다.

xAI의 안전성 부족은 머스크 CEO가 AI 안전성을 강조해 온 것과 대비된다. 머스크 CEO는 AI 기술의 위험성을 경고하며 투명한 개발을 주장해 왔지만, 정작 xAI는 AI 모델의 안전성 보고서를 공개하지 않고 있다. 이에 대해 앤트로픽의 AI 안전 연구원인 사무엘 마크스(Samuel Marks) 역시 xAI가 안전 보고서를 공개하지 않는 것에 대해 이의를 제기하며 "무모한 조치"라고 주장했다.

현재 미국 내에서는 AI 안전성 보고서 공개를 의무화하는 법안이 추진 중이다. 캘리포니아주 상원의원 스콧 위너(Scott Wiener)는 주요 AI 기업들이 안전성 보고서를 의무적으로 공개하도록 하는 법안을 발의했으며, 뉴욕주도 유사한 법안을 검토 중이다.

AI 모델이 실질적인 피해를 초래한 사례는 아직 없지만, AI 안전성 확보를 위한 법적 규제가 필요하다는 목소리가 커지고 있다.

xAI launched Grok 4 without any documentation of their safety testing. This is reckless and breaks with industry best practices followed by other major AI labs.

If xAI is going to be a frontier AI developer, they should act like one.

— Samuel Marks (@saprmarks) July 13, 2025<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>