이 이미지는 가짜네 … 구글 검색이 가려낸다

앞으로 사용자들이 구글에서 이미지 검색을 할 때 인공지능(AI) 도구로 제작되거나 변형된 것을 구분할 수 있게 될 전망이다. AI로 제작된 가짜 이미지가 사회관계망서비스(SNS) 등을 통해 확산하면서 각종 부작용을 낳고 있는 가운데 플랫폼 업계가 자정 노력을 본격화는 계기가 될지 주목된다. 9일 정보기술(IT) 업계에 따르면 구글은 최근 블로그를 통해 "수개월 내에 구글 검색 결과에서 C2PA 메타데이터가 포함된 경우 '이미지 정보' 기능을 사용해 해당 이미지가 AI 도구로 생성됐는지 확인할 수 있게 될 것"이라고 밝혔다.

C2PA는 콘텐츠의 출처와 신뢰성을 위해 설립된 연합체로 이미지와 같은 디지털 콘텐츠의 출처를 확인할 수 있도록 하는 기술 표준을 개발한다. 구글, 아마존, 어도비, 오픈AI, 마이크로소프트, 캐논, 후지필름 등이 참여하고 있다.

C2PA는 디지털 콘텐츠에 대한 일종의 '영양성분표' 역할을 한다. 해당 콘텐츠의 출처가 어디이며 어떠한 도구로 제작되었는지와 같은 정보를 데이터상 워터마크로 남기는 것이 특징이다.

검색된 이미지에 C2PA 데이터가 부착돼 있을 경우 구글은 이를 파악해 해당 이미지가 AI 도구로 제작되거나 중간에 변형됐는지를 사용자가 확인할 수 있도록 한다는 계획이다. 구글은 이미지 검색뿐만 아니라 구글 렌즈, 서클 투 서치 같은 다른 이미지 기능에도 모두 적용하기 위해 준비 중이다. 가령 오픈AI의 이미지 생성 AI 도구인 '달리3'로 제작된 이미지에는 C2PA 데이터가 포함돼 있으며, 어도비도 생성형 AI 도구인 '파이어플라이'를 포함해 자사 제작 도구에 C2PA 기술을 적용하고 있다.

이처럼 AI 이미지를 구분해내기 위한 업계의 노력이 이어지는 것은 AI로 제작한 가짜 이미지가 전 세계에 확산돼 혼란을 일으키는 등 부작용에 대한 염려가 여전하기 때문이다.

구글과 듀크대에 따르면 지난해 3월 AI로 제작한 '흰색 롱패딩을 입은 프란치스코 교황' 이미지가 퍼진 것을 기점으로 AI를 이용한 가짜 이미지가 급증했다는 연구 결과도 나온 바 있다. 한국에서는 네이버가 국내 최초로 C2PA에 올해 7월부터 참여하고 있다. 네이버는 자사 다양한 서비스에 C2PA 기술을 어떻게 활용할지 검토하고 있는 단계인 것으로 파악된다. 네이버 관계자는 "C2PA 관련 논의와 함께 여러 실험을 진행 중"이라고 설명했다.

[정호준 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]