허리케인 참상 알린 '개 안고 우는 소녀'…AI가 만든 가짜였다

현 바이든 정부 무능 비판에 주로 사용돼

무분별한 가짜 사진으로 SNS는 몸살 앓이 중

허리케인 '헐린'이 미국 플로리다를 비롯한 남부를 강타해 큰 피해를 본 가운데 허리케인에 수해를 입은 소녀의 사진이 사회관계망서비스(SNS)와 온라인 커뮤니티 등에 확산했다. 그러나 이후 이 사진이 인공지능(AI)이 생성한 이미지인 것으로 밝혀져 논란이 일고 있다.

6일(현지시간) 뉴욕 포스트는 사회관계망서비스(SNS)에서 화제를 일으킨 사진 한 장이 AI가 만든 가짜 이미지라고 보도했다. 해당 사진은 최근 허리케인 피해로 구명조끼를 입은 소녀가 보트에서 강아지를 안고서 울고 있는 이미지다.

욕 포스트는 사회관계망서비스(SNS)에서 화제를 일으킨 사진 한 장이 AI가 만든 가짜 이미지라고 보도했다. 해당 사진은 최근 허리케인 피해로 구명조끼를 입은 소녀가 보트에서 강아지를 안고서 울고 있는 이미지다. [사진출처=X(엑스)]

이 사진은 현 바이든 정부를 비판하고자 하는 측에서 AI로 생성된 사진을 공유하며 정부의 무능력함을 비판하는 이미지로 주로 쓰였다. 이 사진을 공유한 이 가운데에는 유타주의 마이크 상원의원도 포함돼 있었다. 해당 사진이 거짓 사진으로 판명 나자 그는 곧 해당 사진을 삭제했대. 현재 엑스(X·옛 트위터) 해당 사진이 AI로 생성된 이미지라고 분류시키고 있다. 최근 소셜미디어에서는 정치적인 목적으로 생성된 가짜 사진들이 진짜인 양 유통되는 경우가 많아지고 있다. 앞서 가자지구의 민간인 희생자라는 설명과 함께 이들의 가짜 사진이 퍼지기도 했다.
AI 열풍에 생성 이미지로 가짜정보 유통도 급증
AI로 인한 편리한 세상이 기대를 모으는 한편 우려도 커지고 있다. 앞서 지난 5월께 구글과 듀크대 연구팀은 팩트체크 매체 스노프스가 진위를 확인했던 1995년 이후 2023년 11월까지 13만 6000건의 팩트체크 사례를 분석한 결과를 보면, 지난해 3월 프란치스코 교황이 허리춤을 강조한 흰색 롱패딩을 입은 가짜 사진이 SNS에 퍼진 시기가 하나의 변곡점이 됐다고 분석했다. 해당 사진은 당시 SNS와 온라인 커뮤니티 등에 공유돼 수백만 조회 수를 기록했다. "교황님의 패션 센스", "새로운 스타일리스트를 고용한 교황" 등 전 세계 누리꾼에게 화제를 모았다. 특히, 해당 사진은 생성 AI '미드저니'가 만든 것으로 판명 나기까지 아무도 의심하지 않았을 만큼 자연스러웠다. 이후 해당 사진이 '가짜'라는 것이 드러났고, 이후 AI를 통해 생성한 가짜 사진은 SNS에 수없이 진짜인 양 공유됐다.

지난 5월께 구글과 듀크대 연구팀은 팩트체크 매체 스노프스가 진위를 확인했던 1995년 이후 2023년 11월까지 13만 6000건의 팩트체크 사례를 분석한 결과를 보면, 지난해 3월 프란치스코 교황이 허리춤을 강조한 흰색 롱패딩을 입은 가짜 사진이 SNS에 퍼진 시기가 하나의 변곡점이 됐다고 분석했다. [사진출처=레딧]

무엇보다 AI 생성형 이미지 사용이 늘면서 소셜미디어도 몸살을 앓고 있다. 사람들의 관심을 끄는 유명인의 가짜 이미지들이 범람하며 심각한 명예훼손, 특히 음란물 생성과 확산 또한 뜨거운 감자로 부각되고 있다. AI에 기반해 영상과 이미지·음성을 합성하는 고도의 조작 기술인 딥페이크를 악용할 경우 피해는 상상을 초월한다. 무엇보다 가짜임을 알고 있음에도 맨눈으로 판별하기란 매우 어렵다는 점에서 대중들을 기만한다. 특히 선정적 음란물 제작·유포자들이 늘면서 AI 관련 법적 규제를 강화해야 한다는 목소리도 커지고 있다. 올 초 미국의 세계적인 여성 가수 테일러 스위프트의 얼굴 사진을 합성한 악의적인 딥페이크 음란물이 온라인에 유포됐으며 3월엔 도널드 트럼프 전 대통령이 수감을 찬 채 경찰관들에게 둘러싸여 끌려가는 사진이 퍼지기도 했다.

방제일 기자 zeilism@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>