[AI리포터] [디지털투데이 AI리포터] 보안 연구진이 구글 제미나이(Gemini)를 해킹해 스마트홈 기기를 제어하는 방법을 개발했다.
6일(현지시간) IT매체 엔가젯이 와이어드(Wired)를 인용해 전한 바에 따르면, 연구진은 구글 캘린더 초대장을 활용한 간접 프롬프트 인젝션을 통해 제미나이를 조작, 사용자가 캘린더 요약을 요청한 뒤 감사 인사를 하면 창문을 열거나 조명을 끄는 명령이 실행되도록 설계했다.
해당 공격은 블랙햇(Black Hat) 보안 컨퍼런스에서 시연되기 전 구글에 사전 공유됐으며, 구글은 이를 심각하게 받아들이고 대응책을 마련 중이라고 밝혔다.
6일(현지시간) IT매체 엔가젯이 와이어드(Wired)를 인용해 전한 바에 따르면, 연구진은 구글 캘린더 초대장을 활용한 간접 프롬프트 인젝션을 통해 제미나이를 조작, 사용자가 캘린더 요약을 요청한 뒤 감사 인사를 하면 창문을 열거나 조명을 끄는 명령이 실행되도록 설계했다.
해당 공격은 블랙햇(Black Hat) 보안 컨퍼런스에서 시연되기 전 구글에 사전 공유됐으며, 구글은 이를 심각하게 받아들이고 대응책을 마련 중이라고 밝혔다.
한편, 구글의 보안 제품 관리 디렉터 앤디 웬(Andy Wen)은 프롬프트 인젝션 공격이 당분간 지속될 가능성이 있지만, 일상적인 사용자에게는 큰 위협이 되지 않을 것이라고 언급했다. 그러나 대규모언어모델(LLM)의 복잡성이 증가하면서 악의적인 해커들이 새로운 취약점을 찾을 가능성도 커지고 있어 방어가 쉽지 않은 상황이다.
구글은 이번 연구 결과를 바탕으로 인공지능(AI) 모델 보안을 강화하는 데 집중하고 있다.
<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>
이 기사의 카테고리는 언론사의 분류를 따릅니다.