진짜와 가짜가 공존... AI 영상 시대, '워터마크'가 필요한 이유

[정혜] [디지털포스트(PC사랑)=정혜] 최근 폭우로 전국이 재난상황을 겪는 와중에 포털사이트와 SNS를 통해 확산된 폭우 영상들이 온라인 공간에서 화제가 되었다. 영상에는 경복궁이 물에 잠기고, 도심을 가득 채운 빗물 속에서 차량들이 둥둥 떠내려가는 장면이 담겨 있다. 얼핏 보면 진짜 같지만 모두 AI가 생성한 가짜 영상들이다. 지난 5월 구글이 내놓은 AI 영상 제작 프로그램 '비오3(veo3)를 활용한 것이다.

AI로 만든 영상 [유튜브 채널 골파닭 화면]

진짜와 가짜가 공존하는 일상

AI 기술의 비약적 발전은 콘텐츠 생산 방식의 혁신을 불러왔다. 특히 생성형 AI는 텍스트는 물론 이미지, 음성, 심지어 영상까지 인간처럼 만들어내며 그 활용 범위를 빠르게 넓혀가고 있다. 그러나 이러한 기술은 현실과 허구의 경계를 흐리게 만들 수 있다는 점에서 우려를 낳고 있다.

앞의 영상과 같이 긴박한 재난 상황을 사실처럼 연출할 경우 허위정보 인해 불안과 공포가 확산되고 이는 곧 사회적 혼란으로 이어질 수 있다. 이는 단순한 장난이나 창작의 문제가 아닌, 공공의 안전과 직결되는 심각한 사회적 문제이다.

최근에는 생성형 AI가 만든 딥페이크 영상과 가짜 뉴스가 이용자를 기만하거나 혼란에 빠뜨릴 수 있다는 점에서, AI 산출물에 대한 명확한 표시가 필요하다는 목소리가 커지고 있다. 이는 이용자 보호뿐만 아니라, 인공지능 윤리와 사회질서 유지 측면에서도 중요한 논의로, AI가 생성한 콘텐츠에 대한 투명성을 확보해야 한다는 요구로 이어지고 있다.

​

'워터마크' 의무화로 공공 안전 위협에 대처해야

이러한 혼란을 막기 위한 제도적 장치로 '워터마크(Watermark)' 도입이 다시 주목받고 있다. 워터마크란 콘텐츠에 보이지 않게 삽입하는 디지털 표식으로, 생성 주체를 명시하거나 AI가 만든 것임을 알려주는 일종의 '디지털 흔적'이다. 예를 들어, 이미지 하단에 'AI generated'라는 문구를 넣거나, 메타데이터에 생성 도구와 시간을 기록하는 방식이다.

구글 딥마인드의 'SynthID'가 적용된 이미지 [사진=구글]

'워터마크'는 콘텐츠가 AI 생성물인지 인간이 만든 것인지 구분할 수 있도록 돕는다. 이는 허위 정보의 확산을 방지하고, 저작권 보호와 책임 추적을 가능하게 하는 중요한 수단이다. 즉, 콘텐츠의 출처와 정보를 추적할 수 있게 되는 것이다. 육안으로는 디지털 워터마크를 확인할 수 없지만, 특정 기술을 통해 부착 여부를 판별할 수 있다. 이를 통해 AI 콘텐츠에 대한 투명성을 높이고, 정보의 신뢰성을 확보할 수 있을 것으로 기대된다.

​
유럽·중국 워터마크 표시 의무화

이미 유럽연합(EU)은 'AI 법안'을 통해 AI가 만든 콘텐츠에 라벨링을 의무화하고 있다. 다만, 생성형 AI 콘텐츠 전체가 아니라, 챗봇과 딥페이크 등 '리미티드 리스크(limited-risk)' 범주에 해당하는 시스템에 대해 AI 생성 여부 표시 의무를 법률로 규정하고 있다. 해당 표시 의무는 특히 합성 이미지·오디오·비디오, 텍스트, 챗봇 등 모든 유형의 생성형 AI 콘텐츠에 적용된다.

​EU의 AI 법안은 단순히 'AI가 만들었으니 다 표시해라'는 방식이 아니라, 표현의 자유를 고려하면서도 투명성과 책임을 확보하려는 균형 있는 접근을 취하고 있다.

​중국은 2025년 9월부터 시행 예정인 'AI 생성 콘텐츠 표시 규정'을 통해, AI가 생성하거나 편집한 텍스트, 이미지, 오디오, 비디오 등 모든 형태의 콘텐츠에 대해 명확한 표시 의무를 법적으로 부과할 계획이다. 해당 규정은 라벨링과 메타데이터 기반 표식을 통해 AI 생성 여부를 식별 가능하게 하는 것을 핵심으로 한다.

​미국 백악관은 2023년 10월 발표한 행정명령에서 "생성형 AI 콘텐츠에는 식별 가능한 워터마크를 삽입해야 한다"라고 권고했다. 이는 연방 법률이 아닌 행정명령으로, 민간 기업들은 자율적 정책을 통해 이에 대응하고 있다. OpenAI, Google, Meta 등 주요 기술 기업들은 AI 생성 여부를 식별할 수 있는 워터마크 기술 개발에 적극 나서고 있다.

러브 버그 천적 참새를 보도 화면, 해당 영상은 AI 생성한 영상으로 밝혀졌다.

AI 워터마크 의무화 시대, 한국은 어디쯤 왔나

이런 가운데, 한국에서는 AI가 생성한 영상에 워터마크 표기를 의무화하는 내용을 담은 'AI 기본법'이 2026년 1월 22일부터 시행될 예정이다. 다만 워터마크의 적용 범위, 기준, 의무 주체 등 세부적인 사항은 아직 확정되지 않았으며, 향후 마련될 시행령을 통해 구체화될 예정이다. 일각에서는 과도한 규제가 국내 AI 기술 발전을 저해할 수 있다는 우려의 목소리도 나오고 있다.

​과도한 규제가 AI 산업의 성장을 방해할 수 있다는 점은 분명하지만, 현재 AI 영상의 '범람'은 우리 사회 전반에 빠르게 확산되며 다양한 변화와 논란을 불러일으키고 있다. 영상의 현실감이 높아질수록 부작용도 커지고 있다. 최근 일부 방송사는 참새가 러브버그를 쪼아먹는 AI 영상을 실제 상황으로 오인해 '천적이 나타났다'는 오보를 내기도 했다.

AI 생성한 러브버그 학살 반대 환경운동가 영상 화면

​또 한 여성 환경운동가가 러브버그 학살에 반대하는 발언을 하던 중 벌레가 몸에 붙자 욕설을 내뱉는 장면을 담은 영상 캡처가 퍼지며 논란이 일었지만, 이후 해당 영상이 AI로 생성된 가짜임이 확인됐다.

​한국형사·법무정책연구원에 따르면 딥페이크 관련 경찰 신고는 2021년 156건에서 2023년 964건으로 6배 이상 급증했으며, 올해도 그 수는 꾸준히 늘고 있다. 이제는 'AI가 만든 영상이 그저 재미있다'는 수준을 넘어, 사회 전반의 신뢰 체계를 뒤흔드는 심각한 문제로 확산되고 있는 셈이다.

​AI 기술이 새로운 문화와 산업의 성장 동력이 되고 있는 것은 분명하다. 그러나 공공의 안전과 정보의 신뢰성이라는 사회적 가치 또한 결코 소홀히 할 수 없다. 워터마크 제도는 이 두 가지 가치를 조화롭게 지키기 위한 최소한의 안전장치로서, 기술 발전과 사회적 책임 사이의 균형을 모색하는 첫걸음이다.

<이 기사는 digitalpeep님의 네이버 블로그에도 실렸습니다.>

<저작권자 Copyright ⓒ 디지털포스트(PC사랑) 무단전재 및 재배포 금지>