테일러 스위프트 딥페이크 이미지 X서 확산…“생성 AI 문제점 드러내”

테일러 스위프트 (출처=스위프트 인스타그램)

뮤지션인 테일러 스위프트의 딥페이크 이미지가 소셜미디어를 통해 일파만파 확산하면서 인공지능(AI)을 둘러싼 논란이 일고 있다.

25일(현지시각) IT 매체인 더버지에 따르면, 테일러 스위프트 관련 포르노그래피가 X를 통해 삽시간에 확산했다. 더버지는 “한 X 사용자가 올린 딥페이크 이미지가 4500만 조회, 2만4000번 리트윗을 받았다”며 “결국 계정이 정지됐지만 무려 17시간 동안 방치됐다”고 설명했다. 그러면서 더버지는 “AI를 활용한 가짜 포르노가 증가하고 있다”며 “이를 막는 데 어려움을 보여준다”고 말했다.

X를 통해 해당 이미지가 번진 데는 알고리즘은 크게 작용했다.

X 사용자들이 해당 이미지를 놓고 토론하기 시작하면서 리트윗했고 검색어에서도 ‘테일러 스위프트 AI’라는 키워드가 잡히면서 확산한 것이다.

특히 404미디어에 따르면, 딥페이크 이미지는 마이크로소프트 빙 크리에이터를 활용해 제작됐다.

스위프트 팬은 해당 이미지들이 오랫동안 X에 대해 게시된 것을 놓고 작심 비판했다. 더버지는 “이번 사건은 실제 사람을 기반으로 딥페이크 포르노가 급격히 늘어날 수 있는 것을 보여준다”면서 “생성AI 이미지가 확산하는 것을 막는 것에 있어 한계를 보여준다”고 말했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]