“아이유도 당했다” “이건 진짜 쇼크” 연예인들 ‘발칵’ 뒤집혔다

가수 아이유를 사칭한 AI 딥페이크 광고 영상. 외모 뿐 아니라 목소리까지 정교하게 구현해 불법 도박 게임을 홍보하는 것처럼 만들었다. [유튜브 갈무리]

가수 아이유를 사칭한 AI 딥페이크 광고 영상. 외모 뿐 아니라 목소리까지 정교하게 구현해 불법 도박 게임을 홍보하는 것처럼 만들었다. [유튜브 갈무리]

[헤럴드경제=박세정 기자] “감쪽같이 속았다!”

인공지능(AI) 딥페이크를 악용해, 아이유·손흥민 등 유명인을 사칭한 불법 온라인 도박 광고가 무분별하게 확산하고 있어 소비자 피해 우려가 커지고 있다.

딥페이크로 조작한 유명인이 마치 해당 서비스를 소개, 합법 서비스인 것처럼 위장하고 있어 소비자 주의가 당부된다.

딥페이크 뿐 아니라 AI로 생성한 가짜 전문가가 의료제품을 추천하는 등 AI 생성물 허위·불법 광고 문제는 갈수록 심각한 수준으로 치닫고 있다. 이에 정부도 칼을 빼들고 AI 허위 광고 뿌리 뽑기에 총력전을 시작했다.

도 넘은 AI 딥페이크 허위 광고
한국소비자원이 지난 8∼9월 페이스북의 온라인 도박 광고를 모니터링한 결과 딥페이크 등 부당한 방식의 허위 광고 사례가 38건 확인됐다.

유형별로는 딥페이크로 유명인이나 방송뉴스에서 추천한 것처럼 조작한 사례가 각각 6건(이하 중복포함), 8건이었다. 정부·공공기관의 인증, 유명기업·단체 제휴 사칭이 각각 24건, 13건이었다.

유명인을 사칭한 딥페이크 영상 조작 광고 사례 [한국소비자원]

이들 광고는 유명 연예인이나 스포츠 스타가 출연해 해당 온라인 도박 사이트를 언급한 것처럼 영상을 만들었다. 우리나라에서 온라인 도박 자체가 불법임에도 기획재정부 등의 명칭·로고와 ‘공식’, ‘합법’ 등의 문구를 사용해 문제가 없는 것처럼 오인하도록 했다.

AI 딥페이크를 악용해 외모 뿐 아니라 목소리, 입모양까지 정교하게 구현해, 이를 빋고 불법 광고에 현혹될 우려도 컸다.

광고 게시자는 대부분 확인이 불가능했다.

소비자원은 조사 결과를 페이스북 운영사인 메타와 공유하는 한편 동일·유사한 광고가 게시되지 않도록 협조를 요청했다고 밝혔다.

AI 생성 전문가를 활용한 식품등의 부당광고 예시. [방송미디어통신위원회 제공]

AI로 가짜 의사, 전문가까지 생성해 의료용품 추천하기도…정부 엄벌

AI을 악용한 불법, 허위 광고 문제는 이 뿐만이 아니다. AI로 생성된 가짜 의사나 전문가가 식·의료품을 추천하는 허위·과장 광고도 최급 SNS상에서 급격히 증가하고 있는 실정이다.

이에 정부도 팔을 걷고 AI 생성물 불법, 허위 광고와 ‘전쟁’을 시작했다.

당장, 정부는 허위·조작정보 유통행위에 대해 손해액의 최대 5배까지 부과할 수 있는 징벌적 손해배상을 도입한다. 표시·광고법상 허위·과장 광고 과징금 수준도 높인다. 식약처와 소비자원 역시 관계부처 협의 등을 통해 감시·적발 역량을 강화할 방침이다.

허위·과장 광고의 ‘유통 이전 단계’에서부터 AI 생성물 표시제도 도입한다.

앞으로 AI 생성물을 제작·편집해 게시하는 ‘직접 정보제공자’는 이를 AI로 제작·편집했다는 사실을 표시해야 한다. 플랫폼 이용자의 표시 제거·훼손도 금지된다. 플랫폼 사업자는 표시 준수 여부를 관리하고 의무사항을 고지해야 한다.

과기정통부도 내년 1월 시행되는 AI 기본법에 따른 표시 의무 이행과 투명성 제고를 위한 가이드라인을 마련할 계획이다.