구글·메타·오픈AI, AI 생성 콘텐츠에 워터마크 넣는다…'정보 조작·가짜뉴스’ 안전 조치

일러스트=이은현

미국 주요 인공지능(AI) 기업 7곳이 AI로 만든 콘텐츠에 워터마크를 넣기로 했다. 알파벳(구글 모회사), 메타, 마이크로소프트, 아마존, 오픈AI 등이다.

미국 백악관은 21일(현지시각) 이들 기업이 AI를 활용한 사기나 속임수 등을 차단하기 위해 AI를 활용해 만든 콘텐츠에 워터마크를 넣는 자발적 조치를 취하기로 약속했다고 밝혔다.

AI 기업들은 AI 시스템의 기능과 한계 및 적절한 사용 영역 등 공개한다. 유해한 편견과 차별을 방지하고 개인정보를 보호하는 등 AI의 사회적 리스크에 대한 연구를 우선한다. 또 제3자에 의해 AI 시스템의 취약성도 찾는다. 새로운 AI 시스템을 출시하기 전 외부 안전 테스트를 거쳐 업계와 정부, 시민사회, 학계와 정보를 공유한다.

이런 조치는 AI 활용에 대한 윤리성 문제가 미국 안팎에서 나오는 것과 무관하지 않다. 실제 내년 11월 미국 대선을 앞두고 AI를 활용한 정보 조작과 가짜뉴스에 대한 우려가 꾸준히 나오고 있다.

백악관은 AI 기업의 조치에 대해 “새 기술을 개발하는 기업은 제품의 안전성을 보장할 책임이 있다”라며 “AI의 잠재력을 최대한 활용하고 혁신이 미국인의 권리와 안전을 희생시키지 않도록 하기 위해 바이든 정부는 업체들이 최고 수준의 표준을 유지할 것을 권고하고 있다”라고 평가했다.

이어 “바이든 정부는 동맹 및 파트너 국가와 협력해 AI의 개발, 사용을 관리하기 위한 강력한 국제 프레임워크를 만들겠다”라고 덧붙였다.

윤진우 기자(jiinwoo@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>