"사장님 딥페이크가 회사 정보 빼가기도"... AI가 해킹 공격·방어 다 바꾼다

[2025 한국일보 테크포럼]
보안업계의 게임체인저 떠오른 AI
"공격·방어 진영 모두 AI 적극 활용
앞으로 들어올 공격까지 예측 가능
신기술 기회 넓힐 규제 샌드박스를"

남궁석 한국트렌드마이크로 이사가 11일 서울 강남구 코엑스에서 열린 '2025 한국일보 테크포럼'에서 'AI가 바꾸는 금융보안의 미래, 위협 인텔리전스에 기반한 금융 인프라 보안 전략'을 주제로 강연하고 있다. 정다빈 기자

인공지능(AI) 기술이 사이버 보안 업계의 '게임 체인저'로 떠올랐다. 해커들이 AI를 활용해 더 강력한 사이버 공격을 할 수 있게 된 것은 물론, 이를 막는 측에서도 AI를 적극 활용하면서다.

남궁석 한국트렌드마이크로 이사는 11일 서울 강남구 코엑스에서 열린 '2025 한국일보 테크포럼'에서 해커들이 어떻게 AI를 활용하는지 설명했다. 그는 "디도스(DDoS·분산 서비스 거부) 공격은 서버 자원을 갉아먹어 마비시키는 역할을 하는데, 그걸 자동으로 프로그래밍시킬 수 있다"며 "영상회의에서 딥페이크로 '사장님 영상'을 만들어 회사 내부 정보를 빼낸 실제 사례도 있었다"고 말했다. 또 클릭을 유도하는 피싱 메일을 만들 때도 AI가 사람보다 훨씬 더 설득력 있게 만든다고 했다.

해킹 방어 진영도 AI를 적극 활용하며 대응하고 있다. AI를 탑재한 엔드포인트 탐지 대응(EDR)과 확장 탐지·대응(XDR) 시스템이 대표적이다. 남궁 이사는 "EDR은 악성 코드가 어떻게 들어와 어떤 행위를 했는지 폐쇄회로(CC)TV처럼 시간 순서대로 보여주는 도구"라며 "XDR은 여기에 네트워크·클라우드·이메일 등 여러 보안 로그를 통합해, 최초 유입부터 내부 전파·정보 유출까지 공격의 '스토리 보드'를 그려주는 체계"라고 설명했다. 그는 "AI를 활용해 지금 일어난 공격뿐 아니라, 앞으로 어떤 경로로 공격이 들어올 수 있을지까지 예측해 보여줄 수 있다"고 말했다.

이양수 일루넥스 이사는 이어지는 강연에서 AI 보안 위협 증가에 따라 신기술·신사업을 시험해볼 수 있도록 규제를 일정 부분 풀어주는 '규제 샌드박스'가 필요하다고 강조했다. AI 기반 보안 기술을 현장에 적용하려면 개인정보보호법, 인증 기준, AI 윤리 가이드라인 같은 체계가 뒤따라가야 한다. 예를 들어 데이터를 실시간으로 받아 AI 모델로 분석하려면 개인정보보호법상 문제가 될 수 있다. 이 이사는 "어떤 기술을 개발해도, 그것을 접목했을 때 문제가 될 수 있는 상황"이라며 "기술을 실제 사례에 접목하기 위해선 샌드박스를 통해 해결해야 할 점들이 있다"고 말했다.

조주영 금융보안원 책임은 "AI 에이전트는 기존의 AI보다 공격 표현이 훨씬 넓다는 점도 보안 우려 사항"이라며 "AI가 보안성이 확인되지 않은 외부 도구를 사용하는 것을 제한하기 위해서 새로운 사전 통제 수단을 마련해야 한다"고 말했다.

손영하 기자 frozen@hankookilbo.com