오픈AI, AI 브라우저 보안 강화에도 '프롬프트 공격' 백기

[AI리포터]

오픈AI가 아틀라스의 보안 공격의 완전한 해결은 어렵다고 전했다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 오픈AI가 AI 브라우저 아틀라스(Atlas)의 보안을 강화하고 있지만, 프롬프트 공격은 완전히 해결되기 어려운 보안 위협으로 남아 있다는 점을 인정했다.

22일(현지시간) IT매체 테크크런치에 따르면, 프롬프트 공격은 웹페이지나 이메일에 숨겨진 악성 명령어를 통해 AI 에이전트의 행동을 조작하는 방식으로, 오픈AI는 이를 단기간에 근절하기 어려운 장기적 보안 과제로 보고 있다.

챗GPT 아틀라스는 지난 10월 출시 이후 보안 연구자들에 의해 취약점이 잇따라 지적됐다. 영국 국가사이버보안센터 역시 생성형 AI를 겨냥한 프롬프트 공격이 지속될 가능성이 높다고 경고한 바 있다. 이에 오픈AI는 공격을 완벽히 차단하기보다는 위험을 줄이는 데 초점을 맞추고, 내부적으로 새로운 공격 전략을 사전에 탐지하는 자동화 시스템을 도입했다.

이 시스템은 강화학습을 활용한 자동 공격 탐지 방식으로, AI 에이전트의 사고 과정과 행동을 분석해 잠재적 취약점을 반복적으로 찾아내는 구조다. 오픈AI는 최근 보안 업데이트를 통해 이메일에 숨겨진 악성 명령어를 AI가 감지하고 사용자에게 경고하는 기능도 추가했다고 밝혔다.

다만 AI 보안 전문가들은 이러한 대응을 긍정적으로 평가하면서도, AI 브라우저의 높은 자율성과 이메일·결제 정보 등 민감한 데이터에 대한 광범위한 접근 권한이 여전히 위험 요소라고 지적한다. 강력한 기능만큼 보안 부담도 큰 만큼, 실용성과 안전성 사이의 균형이 필요하다는 목소리가 나오고 있다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>