“AI의 수정을 거친 사진입니다” 구글 포토, AI라벨링 의무화

전 세계, AI 창작물 표기 의무화 규제

AI가 수정한 사진에 AI가 이를 편집했다는 사실을 명시한 구글 포토의 화면 이미지. 구글

“인공지능이 편집한 이미지(Edited with AI)”

구글이 구글 포토에서 인공지능(AI)이 수정한 사진에 인공지능이 편집을 했다는 사실을 명시하고 이를 사용자들에게 투명하게 공개하겠다고 24일(현지시간) 구글 공식 블로그를 통해 밝혔다. 업계에 따르면 해당 내용은 이르면 내주 적용될 예정이다.

사실 이 기술은 새로운 것은 아니다. 존 피셔 구글 포토 엔지니어링 디렉터는 구글 공식 블로그를 통해 “매직 에디터, 매직 지우개, 줌 인핸스와 같은 도구로 편집된 사진엔 이미 국제언론통신협의회(IPTC)의 기술 표준에 기반한 메타데이터가 포함돼있어 생성형 AI를 사용해 편집됐음을 확인할 수 있다”며 “이제 한 걸음 더 나아가 사진 앱의 파일 이름, 위치와 백업 상태와 같은 정보와 함께 이 정보(AI를 활용한 편집 여부)를 볼 수 있도록 한 것”이라고 설명했다.

구글의 이런 움직임은 전 세계적으로 생성형 AI가 만든 콘텐츠에 AI가 만들었다는 점을 명시하는 규제가 추진되는 가운데 이같은 규제에 대응하기 위한 것이란 분석이 나온다.

생성형 AI가 급속도로 발전하면서 세계 각국 또한 AI로 만든 창작물에 식별표시를 의무화하려는 움직임이 일고 있다. 중국은 최근 AI로 생성된 콘텐츠 표시를 의무화하는 규정 초안을 발표했다. AI로 만든 텍스트, 이미지, 영상, 오디오 등 모든 콘텐츠에 반드시 ‘AI 제작’ 표시를 의무화하는 것이 골자다.

유럽연합(EU)도 비슷한 규제를 준비 중이다. EU가 지난 8월 발효한 AI 규제법안엔 콘텐츠 제작 과정에서 AI 사용 여부를 명확히 밝히는 규정이 포함됐다. 미국 또한 캘리포니아주를 중심으로 AI 생성 콘텐츠에 대한 식별을 요구하는 법안을 추진 중이다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]