인스타에 AI 이미지 올리면 ‘딱지’ …메타, 정책 예고

“AI 생성 콘텐츠 감지 기능 개발”

[메타(Meta) 공식 뉴스룸]

[헤럴드경제=김빛나 기자] 딥페이크 악용 사례가 늘면서 페이스북 모회사 메타(Meta)가 AI(인공지능) 이미지 정책을 내놨다.

6일(현지시간) 메타는 자사의 뉴스 블로그에 이용자들이 AI로 생성된 이미지를 분명히 식별할 수 있게 하는 정책을 시행하겠다고 밝혔다.

뉴스에서 메타는 "페이스북과 인스타그램, 스레드에서 AI 생성 이미지에 꼬리표(label)를 붙일 것"이라고 밝혔다. 메타는 그동안 자체 AI 도구 '메타 AI'를 사용해 만든 이미지에 '이매진드 위드 AI'(Imagined with AI)라는 꼬리표를 붙여왔는데, 이런 방식을 외부 AI 도구로 만든 콘텐츠에도 적용하겠다고 밝혔다.

최근 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 소셜미디어 엑스(X, 옛 트위터) 등에서 확산되는 등 논란을 고려한 것으로 풀이된다.

이 회사는 그동안 AI 도구로 생성된 이미지에 포함된 보이지 않는 워터마크나 특정 유형의 메타데이터(대량의 데이터를 구조화한 데이터)를 대규모로 식별할 수 있는 도구를 구축해 왔으며, 이를 통해 구글과 오픈AI, 마이크로소프트, 어도브, 미드저니, 셔터스톡 등 다른 업체들의 AI 도구로 생성한 이미지를 인식할 수 있다고 설명했다.

메타는 이 인식 도구를 활용해 앞으로 몇 달 안에 페이스북과 인스타그램, 스레드의 각 앱에서 AI 생성 이미지를 사용자들이 식별할 수 있게 만들겠다고 밝혔다.

닉 클레그 메타의 글로벌정책 담당 사장은 "사람과 합성 콘텐츠 간의 차이가 흐려짐에 따라 사람들은 그 경계가 어디인지 알고 싶어 한다"며 "따라서 그들이 보고 있는 사진 콘텐츠가 AI를 이용해 만들어졌을 때 이를 알 수 있게 돕는 것이 중요하다"고 말했다.

아울러 메타는 인터넷 전반에 걸쳐 확산하는 AI 생성 콘텐츠 식별을 위해 업계의 다른 회사들과 협력해 공통 표준을 개발하기 위해 노력 중이라고 밝혔다.

다만 메타는 자사가 구축한 식별 도구가 아직 모든 AI 생성 콘텐츠를 잡아낼 수 있는 것은 아니며, 사람들을 속이려고 하는 이들이 AI 이미지 생성 과정에서 보이지 않는 워터마크나 표식까지 지울 수 있는 방법도 존재해 이 문제를 해결하는 방안도 모색 중이라고 설명했다.

또 음성(오디오)과 동영상(비디오)을 동일한 규모로 생성하는 AI 도구의 경우 식별할 수 있는 신호가 포함돼 있지 않아 아직은 감지가 불가능한 상황이라고 덧붙였다.

한편 최근 미국에서는 AI가 생성한 딥페이크 이미지에 규제가 필요하다는 목소리가 높아지고 있다.

binna@heraldcorp.com

Copyright ⓒ 헤럴드경제 All Rights Reserved.