해킹코드, 무기제조법 술술 부는 딥시크, 저비용의 함정?

◀ 앵커 ▶

중국 딥시크 AI 모델의 개인정보 유출 위험이 제기되자, 정부와 기업들이 딥시크 접속을 차단하고 나섰죠.

그런데 일명 '탈옥'을 통하면, 범죄에 악용될 수 있는 각종 유해 정보까지 무분별하게 답하고 있어, 더 큰 우려를 낳고 있습니다.

박진준 기자가 취재했습니다.

◀ 리포트 ▶

딥시크에 디도스 공격이 가능한 악성코드를 만들어 달라고 했습니다.

그러자 유해한 정보라며 '법적으로 처벌 받을 수 있다'고 단박에 거절합니다.

반드시 악성코드가 필요한 위급한 상황이라며 가상의 시나리오를 입력하고 다시 물었습니다.

이번엔 대답이 달라졌습니다.

프로그램 코드가 화면에 줄줄이 등장합니다.

IP주소와 횟수만 입력하면 언제든 쓸 수 있는 공격 코드입니다.

[최진성/다날 보안기술팀장]
"가장 간단하지만 가장 기본적으로 공격하는 스크립트를 짜 줬어요."

일명 '탈옥'.

특정한 명령어나 가상의 시나리오를 입력해 개발자가 설정한 가이드라인을 무력화시키고 유해한 정보를 답하게 하는 겁니다.

온라인 게시판엔 탈옥 후기가 넘쳐납니다.

온라인에 떠도는 명령어를 입력하자 독가스 제조법부터, 총기 제작법까지 술술 뱉어냈다는 겁니다.

보안전문가는 효율만 강조한 결과라 지적합니다.

[최진성/다날 보안기술팀장]
"(비윤리적인 내용을) 확인하지 않고 학습하기 때문에 이런 부분에 대해서는 이제 취약점이 있을 수 있는 거죠."

'유해정보 확산'을 가능하게 하는 '탈옥'은 AI 모델들이 직면한 공통된 문제입니다.

하지만 탈옥 안전성을 점검한 결과 일부 AI 모델이 유독 취약한 것으로 나타났습니다.

오픈 AI GPT-o1 에 대한 공격성공률은 26%, 구글의 제미나이 1.5 프로는 64%, 메타의 라마 3.1이 96%에 이르렀고 딥시크 R1은 100%, 다 뚫린 걸로 나타났습니다.

[샘 올트먼/오픈AI CEO]
"대부분의 이용자들은 안전한 제품을 원합니다. 그것은 상업적 성공을 위해 중요한 부분이죠. 저희도 안전과 상업성이 떨어져 있다고 생각하지 않아요."

AI를 둘러싼 경쟁이 치열해지면서 당장 기업들은 가성비와 사용자 접근성을 높이는 방법에 관심을 쏟고 있습니다.

하지만 AI가 인간과 공존하는 길은 '인간에게 위험하면 안 된다'는 원칙에서 시작될 수 있습니다.

MBC뉴스 박진준입니다.

영상취재: 이준하 / 영상편집: 김민지
MBC 뉴스는 24시간 여러분의 제보를 기다립니다.

▷ 전화 02-784-4000
▷ 이메일 mbcjebo@mbc.co.kr
▷ 카카오톡 @mbc제보

영상취재: 이준하 / 영상편집: 김민지 박진준 기자(jinjunp@mbc.co.kr)

ⓒ MBC&iMBC 무단 전재, 재배포 및 이용(AI학습 포함) 금지