딥시크. 中 무관한 질문에 정부 입장 답변 하기도
29일(현지시간) 미국 포춘지는 딥시크 AI가 사용자의 질문에 부정확한 정보를 제공했으며, 폭탄 제조법과 같은 민감한 사항에 대한 답변을 제공할 가능성이 있다는 연구 결과가 발표되었다고 보도했다.
정보 신뢰성 평가 기관인 뉴스가드에 따르면 이날 딥시크의 챗봇을 조사한 결과, 뉴스 관련 질문에 대해 부정확한 답변을 하거나 답변을 회피하는 비율이 83%에 달했다고 발표했다. 또한 명백한 거짓 주장에 대한 반박률은 17%에 불과했다.
뉴스가드는 챗봇 신뢰성 평가에서 딥시크의 최신 AI인 R1 모델을 총 11개 챗봇 중 최하위인 10위로 평가했다. 비교 대상인 오픈AI의 챗GPT-4, 앤트로픽의 클라우드 등 서구권 AI 챗봇은 상위권을 기록했다. 뉴스가드는 딥시크 AI가 2023년 10월 이후의 정보를 학습하지 않아 최신 사건에 대한 정확한 답변이 어렵고, 거짓 정보를 쉽게 반복할 가능성이 크다고 지적했다. 특히, 딥시크가 중국의 정보 정책을 따르며 검열된 응답을 제공하는 경향이 있다고 주장했다.
한편 사이버범죄 정보기관인 켈라도 딥시크의 보안 취약성을 지적하는 분석 보고서를 발표했다. 켈라는 “딥시크의 R1은 챗GPT와 유사하지만 훨씬 더 취약하다”라고 분석했다. 이어 "다양한 시나리오에서 R1을 사용해 랜섬웨어 개발, 민감한 콘텐츠 조작, 독극물 및 폭발 장치 생성에 대한 상세 지침을 비롯한 위험 정보를을 생성할 수 있었다"고 경고했다.
켈라는 또한 딥시크가 답변 과정의 추론 단계를 모두 표시하는 방식이 보안 문제를 악화시키고 있다고 지적했다. 챗GPT가 내부적인 추론 과정을 숨기는 것과 달리 딥시크는 이를 사용자에게 상세히 노출함으로써 악의적 사용자들이 딥시크 AI의 보호장치를 무력화하는 방식을 쉽게 알아낼 수 있도록 한다는 것이다.
이러한 문제점은 딥시크의 글로벌 확산 속도를 감안할 때 더욱 큰 파장을 불러일으킬 것으로 보인다. 현재 딥시크는 전 세계에서 가장 많이 다운로드된 앱 중 하나로 떠오르고 있다.
미국 해군은 이미 딥시크의 보안 및 윤리적 문제를 이유로 장병들에게 해당 AI 플랫폼 사용을 금지했다. 캐롤린 리빗 백악관 대변인은 지난 28일 기자 회견에서 “미국 국가안보회의(NSC)가 딥시크의 영향을 조사 중”이라고 밝혔다. 이탈리아 데이터 보호 당국도 딥시크의 데이터 활용 방식에 대한 조사에 착수한 것으로 알려졌다.
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.