(왼쪽부터)딥시크, 챗GPT 애플리케이션(앱). /연합뉴스 |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
비용과 성능 혁신으로 미국 실리콘밸리를 놀라게 한 중국의 인공지능(AI) 스타트업 ‘딥시크’(DeepSeek)가 심각한 신뢰성 문제를 드러냈다. 정보 검증에서 83%의 높은 실패율을 기록했을 뿐 아니라 보안상 취약점도 다수 발견됐다.
29일(현지시각) 미국 포춘지에 따르면 중국의 딥시크 AI는 잘못된 정보로 가득 차 있으며 심지어 폭탄 제조법 생성까지 유도될 수 있다는 연구진의 경고가 나왔다고 보도했다. 정보 신뢰성 평가 기관인 뉴스가드의 최근 검사 결과에 따르면 딥시크 챗봇은 뉴스 관련 주제에 대한 질문에서 83%라는 높은 비율로 부정확한 답변을 제공하거나 응답하지 못했다. 특히 명백한 거짓 정보를 제시했을 때 이를 반박한 경우는 17%에 불과했다.
이러한 실패율로 인해 딥시크의 R1 모델은 테스트 대상이었던 11개 챗봇 중 10위라는 저조한 성적을 기록했다. 반면 오픈AI의 챗GPT-4, 앤트로픽의 클로드, 미스트랄의 르챗 등 서구 기업들의 서비스는 대부분 상위권에 올랐다.
특히 이번 검사에서는 딥시크의 결괏값이 중국의 정보 통제 정책을 반영하고 있다는 점이 드러났다. 뉴스가드의 분석가들은 “테스트한 10개의 거짓 주장 중 3개의 경우, 중국과 무관한 질문임에도 딥시크가 중국 정부의 입장을 전달했다”고 지적했다.
특히 딥시크는 ‘악한 탈옥’ 공격에 취약한 것으로 나타났다. 이는 AI에게 돈세탁이나 데이터 도용 멀웨어 작성 같은 불법 활동에 대한 질문에 대답하도록 유도하면서 AI에 내장된 안전장치를 무력화하는 공격 방식을 의미한다.
켈라는 또한 딥시크가 답변 과정의 추론 단계를 모두 표시하는 방식이 위험하다고 지적했다. 챗GPT가 추론 과정을 숨기는 것과 달리 딥시크는 이를 상세히 공개함으로써 악의적 사용자들이 멀웨어 개발 등에 활용할 수 있는 정보까지 제공한다는 것이다.
이러한 문제점들이 알려지면서 서구권의 반발도 거세지고 있다. 미 해군은 이미 “모델의 출처와 사용에 관련된 잠재적 보안 및 윤리적 우려”를 이유로 소속 구성원들에게 딥시크 사용을 금지했으며 백악관은 국가안보회의 차원에서 딥시크의 영향을 검토 중이라고 밝혔다. 또 오픈AI는 자사 AI 데이터를 딥시크가 무단으로 빼돌려 기술을 개발했을 가능성이 있다고 주장하고 있다.
<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.