AI로 만든 가짜 의·약사 광고…정부 단속 이후 사라져

AI 활용 광고 줄고, 실제인물 등장 늘어
처벌 근거 만들기 위한 법 개정도 추진

최근 SNS 등을 통해 인공지능(AI)으로 생성한 가짜 의사들이 영양제를 추천하는 광고성 영상이 퍼졌다. 유튜브 광고 캡처

정부가 생성형 인공지능(AI)으로 만든 가짜 의사·약사의 식의약품 추천 영상에 대해 엄격한 단속 방침을 밝힌 이후 허위·과장 광고 게시물이 줄어들기 시작했다. 정부는 AI 기반 허위·과장 광고 확산을 막기 위해 단속 강도를 더욱 높이고, 추가 대책도 마련할 방침이다.

최근 생성형 AI를 활용해 제작한 이미지와 영상이 확산되면서 영양제와 의약품에 대한 잘못된 정보를 담은 허위·과장 광고도 함께 늘고 있다. 실제 존재하지 않는 의사나 약사가 등장해 영양제나 의약품을 권하는 영상이 SNS를 통해 퍼지면서 이를 믿고 구매했다가 피해를 입은 소비자 사례가 잇따랐다.

이에 정부는 지난달 10일, 생성형 AI로 만든 의사 등 전문가의 식의약품 추천 광고를 위법 행위로 규정하고, 이를 위반한 광고물에 대해 징벌적 손해배상을 적용하겠다는 내용의 범부처 대책을 발표했다. 해당 대책에는 △AI 생성물 표시제 도입 △AI 생성물 투명성 가이드라인 마련 △정부 차원의 불법 광고물 신속 차단 역량 강화 등의 방안이 포함됐다.

식품의약품안전처에 따르면 범정부 대책 발표 이후 AI로 생성한 가짜 의·약사 광고는 눈에 띄게 감소했다. 지난해 말 AI 활용 광고 비중이 높았던 것과 달리, 최근에는 실제 인물을 등장시킨 광고가 다시 늘어나는 양상을 보이고 있다는 설명이다.

박영민 식약처 사이버조사팀장은 “범정부 대책 발표 이후 식약처는 AI 허위 광고에 대한 집중 단속에 나섰다”며 “사이버조사단이 화장품법과 약사법 등 식의약품 광고 관련 법 위반 여부를 점검했다”고 밝혔다.

이어 “단속 이후 최근 2주간 AI 생성 광고가 감소하는 흐름을 보였고, 이에 따라 AI를 활용한 허위 광고도 함께 줄어들었다”며 “AI 생성 광고가 늘던 추세가 꺾이면서 다시 실제 인물이 등장하는 식의약품 광고가 증가하고 있다”고 설명했다.

식약처는 AI 제작 광고가 감소한 배경으로 광고 제작자들 사이에서 AI 활용 광고의 법적 위험성에 대한 경각심이 커진 점을 꼽았다. 아울러 지난 20일부터 시행된 인공지능 기본법으로 AI를 활용한 콘텐츠 제작자의 책임이 강화된 점도 일정 부분 영향을 미친 것으로 분석했다.

식약처는 AI 제작 허위·과장 광고가 감소하는 추세를 보이고 있지만, 국민 안전을 위해 감시 체계를 강화할 방침이다. 현재 사이버조사단을 중심으로 실시간 모니터링을 진행하고 있는 가운데, 향후 특별 점검을 병행해 감시망을 보다 촘촘하게 구축하겠다는 계획이다.

박 팀장은 “현재도 사이버조사단이 실시간으로 인터넷상 허위·과장 광고 유포를 차단하고 있지만, 주기적으로 특별 점검도 진행할 계획”이라며 “법 위반 여부를 보다 면밀히 살펴보기 위해 인력을 추가 투입하는 방식으로 오는 2월 특별 점검을 실시할 예정”이라고 말했다.

다만 아직 AI로 생성된 가짜 전문가를 직접 처벌할 수 있는 제도적 장치가 부족하다는 한계도 있다. 실제로 존재하지 않는 전문가가 등장하는 식의약품 광고 행위에 대해 현행법상 처벌 근거가 명확하지 않기 때문이다. 이에 식약처는 관련 법 개정을 통해 AI로 생성된 가짜 인물의 식의약품 광고 행위를 제한할 수 있도록 할 방침이다.

박 팀장은 “허위·기만 광고는 현재도 광고 내용 자체를 기준으로 단속하고 있지만, 실제 사람이 아닌 가짜 전문가를 활용한 광고는 처벌 근거가 미흡했다”며 “AI로 생성된 가짜 전문가의 광고 행위도 제재할 수 있도록 법 개정안을 준비해 허위·과장 광고에 대한 법적 근거를 보다 명확히 할 예정”이라고 전했다.