AI 가짜 이미지 양산하는 온라인 커뮤니티 '논란'

[AI리포터]

[디지털투데이 AI리포터] 딥페이크 등 인공지능(AI) 이미지 생성기를 악용해 유명인의 가짜 이미지를 만드는 온라인 커뮤니티 '4챈'(4chan)이 논란이 되고 있다고 5일(현지시간) IT매체 아스테크니카가 전했다.

이는 최근 미국 유명 가수 테일러 스위프트를 성적으로 희화화한 가짜 이미지가 확산되면서 더욱 부각됐다.

서비스형 소프트웨어 기업 그래피카(Graphika) 연구진은 "4챈 사용자 간에 AI 이미지 생성기의 필터를 우회하는 방법이 공유되고 있다"며 "사용자들은 성적으로 노골적인 유명인 이미지를 만드는데 전념하고 있다"고 밝혔다.

논란이 되는 가짜 이미지는 마이크로소프트(MS) 도구와 오픈AI의 달리(DALL-E) 등을 사용해 만들어진 것으로 알려졌다. 그러나 오픈AI는 이에 대해 부인했으며, MS는 해당 내용과 관련해 조사하고 있다고 밝혔다.

한편 크리스티나 로페즈 크래피카 선임 분석가는 "AI를 통해 생성한 가짜 이미지의 공격 대상은 테일러 스위프트뿐만 아니라 다른 유명인들에게도 확산되고 있다"고 지적했다. 이는 곧 세계적인 유명인부터 일반인 혹은 미성년자에 이르기까지 누구나 공격의 대상이 될 수 있다는 것을 암시한다.

크리스티나 로페즈 분석가는 "문제 예방을 위해 AI 관련 기업이 안전장치를 우회하는 방법을 정확하게 보고하고, 유해한 온라인 커뮤니티 내에서 벌어지는 일들에 대해 주의를 기울여야 한다"고 강조했다. 이어 그는 "악의적인 활동이 벌어지는 특성을 이해하고 발생할 수 있는 추가적인 악용을 원천적으로 방지하는 것이 중요하다"고 덧붙였다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>