사무용 메신저 슬랙 AI, 보안 취약?…"데이터 유출 가능성"

[AI리포터]

[디지털투데이 AI리포터] 사무용 메신저인 슬랙의 인공지능(AI)이 특정 프롬프트를 통해 사용자의 기밀 데이터를 유출할 수 있다는 연구 결과가 나왔다고 22일(현지시간) 온라인 매체 기가진이 전했다.

보안 연구기관 프롬프터모어(promptarmor)에 따르면 공격자가 공개 채널에 악성 프롬프트를 입력하면 이를 통해 비공개 채널에 게시된 기밀 정보를 빼낼 수 있다. 이는 슬랙 AI가 개발자가 만든 '시스템 프롬프트'와 사용자가 입력하는 '프롬프트'를 구분하지 못하기 때문에 발생한다.

일례로 사용자가 비공개 채널에 API 키를 올리고 "내 API 키가 뭐였지?"라고 물었을 때, 슬랙 AI가 "여기를 클릭하세요"라는 문장을 반환하도록 명령하는 것을 들었다. 이 문장에는 공격자에게 정보를 전송할 수 있는 URL이 포함돼 있으며, 사용자가 링크를 클릭하면 API 키가 공격자에게 알려지게 되는 셈이다.

프롬프터모어는 "슬랙 AI가 출력의 출처로 공격자의 프롬프트를 인용하지 않았기 때문에 이 공격을 추적하기가 매우 어렵다"며 "이 공격은 API 키뿐만 아니라 모든 비밀을 유출할 수 있다는 것을 보여준다"고 말했다. 때문에 관리자는 위험에 노출될 수 있는 범위가 증가하고 있다고 강조했다.

현재 이에 대한 적절한 대응이 이루어지지 않고 있어, 문제가 해결될 때까지 슬랙 AI의 문서 수집 기능을 제한해야 한다는 지적도 나왔다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>