오픈AI도 이미지에 '라벨' 부착

구글과 메타가 생성형 인공지능(AI)으로 만든 이미지에 '라벨'을 붙이는 계획을 발표한 데 이어 챗GPT를 개발한 오픈AI도 같은 정책을 추진하기로 했다. 지난달 세계적인 팝스타 테일러 스위프트의 '딥페이크' 이미지가 확산하면서 AI 부작용에 대한 우려가 커지자 빠르게 대책 마련에 나서고 있는 것이다.

오픈AI는 7일(현지시간) 생성형 AI 플랫폼 '달리3'가 만든 이미지 콘텐츠에 출처와 진위 확인을 위한 연합(C2PA)의 워터마크를 부착한다고 밝혔다. C2PA는 디지털 콘텐츠의 출처와 관련된 정보를 확인하는 개방형 표준기술로 마이크로소프트(MS), 어도비, 인텔 등이 주도하고 있다.

C2PA 워터마크는 사람의 눈에는 보이지 않지만 인증 사이트에 해당 콘텐츠를 넣으면 AI가 만든 이미지인지 확인이 가능하다. 오픈AI는 "이번 정책은 디지털 정보에 대한 대중의 신뢰를 높이는 데 도움이 될 것"으로 기대했다. 이미 웹에서는 오픈AI의 달리3를 이용하면 C2PA가 포함되는데, 오픈AI는 12일까지 이를 모바일 사용자에게도 확대한다는 계획이다. 다만 이에 대해 오픈AI는 "딥페이크를 막는 완벽한 정책이라고는 볼 수 없다"고 밝혔다. 생성형 AI 시장이 확대되면서 딥페이크의 부작용에 대한 우려는 꾸준히 제기돼왔다.

특히 지난달 스위프트의 가짜 이미지가 사회관계망서비스(SNS)에서 확산하며, 이에 대한 대비책이 필요하다는 목소리가 커지는 상황이었다. 이에 구글이 지난 1일 자사의 생성형 AI 바드로 만든 이미지에 라벨을 붙이겠다는 계획을 발표했으며, 메타도 메타 AI로 만든 이미지뿐만 아니라 외부 AI 도구로 만든 콘텐츠에 라벨을 붙이겠다고 전했다.

[원호섭 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]