 |
테일러 스위프트 (출처=스위프트 인스타그램) |
뮤지션인 테일러 스위프트의 딥페이크 이미지가 소셜미디어를 통해 일파만파 확산하면서 인공지능(AI)을 둘러싼 논란이 일고 있다.
25일(현지시각) IT 매체인 더버지에 따르면, 테일러 스위프트 관련 포르노그래피가 X를 통해 삽시간에 확산했다. 더버지는 “한 X 사용자가 올린 딥페이크 이미지가 4500만 조회, 2만4000번 리트윗을 받았다”며 “결국 계정이 정지됐지만 무려 17시간 동안 방치됐다”고 설명했다. 그러면서 더버지는 “AI를 활용한 가짜 포르노가 증가하고 있다”며 “이를 막는 데 어려움을 보여준다”고 말했다.
X를 통해 해당 이미지가 번진 데는 알고리즘은 크게 작용했다.
X 사용자들이 해당 이미지를 놓고 토론하기 시작하면서 리트윗했고 검색어에서도 ‘테일러 스위프트 AI’라는 키워드가 잡히면서 확산한 것이다.
특히 404미디어에 따르면, 딥페이크 이미지는 마이크로소프트 빙 크리에이터를 활용해 제작됐다.
스위프트 팬은 해당 이미지들이 오랫동안 X에 대해 게시된 것을 놓고 작심 비판했다. 더버지는 “이번 사건은 실제 사람을 기반으로 딥페이크 포르노가 급격히 늘어날 수 있는 것을 보여준다”면서 “생성AI 이미지가 확산하는 것을 막는 것에 있어 한계를 보여준다”고 말했다.
[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]
이 기사의 카테고리는 언론사의 분류를 따릅니다.