 |
체크포인트소프트웨어테크놀로지스(이하 체크포인트)는 'AI 시큐리티 리포트'를 발표했다고 16일 밝혔다. 이번 보고서에는 사이버 범죄자들이 AI를 무기화한 방법과, 방어자들을 위한 전략이 담겼다.
보고서에 따르면, AI 기술을 악용한 사칭 및 피싱 공격이 증가하고 있다. AI 기술로 이메일, 오디오, 딥페이크 영상을 생성하는 방식이다. 체크포인트는 실제 이탈리아 국방장관을 사칭한 오디오 피싱 사례가 있었고, 기존 음성·영상 기반 인증 시스템이 무력화될 가능성이 있다고 진단했다.
대형언어모델(LLM) 중독과 허위 정보 확산 또한 문제점으로 꼽았다. AI 학습 데이터를 조작해 오답을 생성하도록 유도하는 등 숨겨진 위협이 늘어날 수 있다는 취지다. 아울러 AI가 분산서비스거부(DDoS·이하 디도스)를 자동화하거나, 다크웹 기반 AI 도구를 정교화한 뒤 탐지를 우회하고 대응을 지연하도록 할 수 있다고 진단했다.
로템 핀켈슈타인 체크포인트리서치 이사는 "사이버 범죄자들의 AI 도입이 이미 위협 환경을 재편하고 있다"며 "일부 지하 공격 서비스는 발전했지만, 모든 징후는 디지털 트윈의 부상이라는 임박한 변화를 가리키고 있다"고 말했다. 이어 "이는 단순히 외형이나 음성이 유사한 것이 아니라, 인간의 사고와 행동을 모방할 수 있는 AI 기반 복제본"이라며 "먼 미래가 아니라 바로 코앞에 와 있는 현실"라고 강조했다.
체크포인트는 방어자가 적대적 공격 캠페인에 AI가 탑재돼 있다는 사실을 인지해야 한다고 제언했다. 기업의 경우 AI 인식 사이버보안 프레임워크를 채택해야 한다고 밝혔다. 이 프레임워크에는 AI 지원 탐지 및 위협 헌팅, 다중 AI 기반 아이덴티티 검증 체계 구축 등의 내용이 담겨 있다. 그 일환으로 LLM을 악용한 전술(TTPs)을 사전에 식별하고 대응하는 체계가 필요하다고 말했다.
핀켈슈타인 이사는 "AI 중심 시대에 사이버 보안 팀은 AI를 방어 시스템에 통합해 공격자의 속도에 발맞춰야 한다"라며 "이 보고서는 위험을 강조할 뿐만 아니라 AI 환경을 안전하고 책임감 있게 보호하기 위한 로드맵을 제시한다"라고 말했다.
- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -
이 기사의 카테고리는 언론사의 분류를 따릅니다.