[팩플] 생성AI로 진화하는 악성광고…구글 1년간 55억 개 차단

생성 AI(인공지능) 발달로 더 많은 온라인 악성 광고가 교묘하고 빠르게 확산하고 있다. 구글은 작년에만 55억 개 이상의 악성 광고를 차단·삭제했다. 매일 분당 약 1만 개의 광고를 규제한 셈이다.

구글 로고 [EPA=연합뉴스 자료사진]

━

무슨 일이야

27일(현지시간) 구글이 공개한 ‘2023 광고 안전 보고서’에 따르면 구글은 지난해 광고 정책을 위반한 55억 개의 광고를 차단·삭제했다. 2022년(52억개)보다 3억개 늘었다. 악성코드 확산 등 네트워크 남용 방지 정책을 위반한 광고가 10억 개로 가장 많았다. 금융 서비스 정책 위반 광고(2억7340만 개), 각종 사기 수법 포함 허위 진술 정책 위반 광고(2억650만 개)가 뒤를 이었다.

구글은 광고 정책을 위반한 1270만 개 광고주 계정도 차단했다. 2022년 대비 2배 증가한 수치다. 부적절한 사이트 자체를 규제한 건수도 39만5000개로 2022년(14만3000개)보다 크게 늘었다. 유명인을 사칭해 투자를 유도하는 사칭 페이지가 발견됐다면 이 페이지를 차단 조치하거나 활동을 제한시킨 건수 등이 포함된 수치다.

김영희 디자이너

세계 각국 선거철을 앞두고, 관련 허위 사실 조장 광고에 대해서도 단속을 강화했다. 구글은 “모든 선거 광고에 자금 출처를 공시하도록 하는 등 선거 광고주에 대한 신원 확인 및 투명성 요건 등을 검증하고 있다”고 설명했다. 지난해에는 5000개 이상 선거 광고의 광고주를 검증해 730만 건 이상을 삭제했다.

━

이게 왜 중요해

생성 AI 등 기술 발달에 따라 온라인 플랫폼에서의 사기와 속임수가 지난해부터 크게 늘었다. 미국 연방거래위원회(FTC) 자료에 따르면 지난해 소셜 미디어(SNS)에서 발생한 사기 금액은 15억 달러(약 1조8000억원) 수준이다. 올해는 전세계적으로 각종 선거를 앞두고 딥페이크 기술로 유명인을 사칭해 이용자들을 속이는 타깃 광고들이 많아졌다. 구글·메타·오픈AI 등 AI 관련 기업 20곳은 지난 2월 독일에서 열린 뮌헨안보회의에서 딥페이크를 비롯한 AI활용 허위 정보에 대응하겠다는 합의문을 발표하기도 했다. 예컨대 구글의 생성 AI가 이미지를 생성할 때 사람 눈에 보이지 않는 워터마크를 삽입하는 식이다.

던컨 레녹스 구글 광고 안전 및 정보보호 부문 부사장은 “생성 AI 기술 발달로 악의적인 광고주들의 수법이 더 정교해지고 있다”며 “이런 광고들을 더 신속하게 탐지하고 차단하는 기술에 대해 투자하고 있다”고 말했다. 대규모언어모델(LLM)을 고도화 해 비슷해 보이는 콘텐트 간 미묘한 차이를 포착할 수 있게 한 기술이 대표적이다. 구글은 “과거에는 백신 거부를 지지하는 주제 자체를 객관적으로 다룬 콘텐트와 백신을 거부하는 주장을 사실인 것처럼 다룬 콘텐트를 AI가 구분하기 어려워 했다”며 “지금은 두 사례의 미묘한 차이를 포착해 AI를 통해 규제 정책을 집행할 수 있게 됐다”고 설명했다.

실제 지난해 구글은 약 21억 개 페이지 내 악성 광고를 차단·제한했는데, 이중 3분의 2를 AI가 잡아냈다고 한다. 최근에는 플랫폼에 입력되는 페이지와 사용자들이 실제 접속한 페이지의 주소를 다르게 하는 ‘클로킹 기법’을 활용한 악성 광고가 많아졌다.

━

더 알아야 할 것

22일 오후 서울 중구 프레스센터에서 열린 유명인 사칭 온라인 피싱범죄 해결 촉구를 위한 기자회견에서 개그우먼 송은이가 발언하고 있다. 왼쪽은 김미경 강사. 연합뉴스

플랫폼이 견고하게 벽을 쌓아도 빈틈을 노리는 악성 광고의 신종 패턴은 다양해지고 있다. 국내에서는 지난 22일 연예인·방송인 등 유명인들이 구글·메타 등 플랫폼 기업에 온라인 상 유명인 사칭 범죄를 더 적극적으로 해결해 달라는 기자회견을 열기도 했다. 이들은 “여러 차례 플랫폼에 신고해 겨우 사기 계정 1개를 지우면 다음날 10개의 사기 계정이 새로 생겨난다”고 토로했다.

구글은 이에 대해“지속적으로 변화하는 위협에 대응하고자 전담 집행 팀을 배치하고, 신뢰할 만한 과거 내역이 없는 광고주에 대해서는 ‘광고주 파악 기간(get-to-know-you)’을 적용해 광고주의 도달 범위를 제한하는 정책을 도입했다”고 밝혔다. 최근엔 네이버도 ‘그린 인터넷 캠페인’ 웹사이트와 고객센터 홈페이지 등에 유명인 사칭 광고 피해를 신고하는 창구 신설을 추진 중이다. 카카오는 지난해 12월부터 서비스 내 모든 신고 영역에 ‘사칭’ 전용 항목을 추가했다. 사칭 광고 피해 사례가 많이 발생하는 걸로 알려진 메타는 지난해 “규정 위반 사칭 계정을 단속하고 있다”는 입장을 발표한 뒤 별다른 대응을 하지 않고 있다.

홍상지 기자 hongsam@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지