G7, AI 활용 관련 첫 국제규범 내놔

AI로 만들어진 콘텐츠인지

알 수 있게 워터마크 등 표시

챗GPT 일러스트.

G7(7국)이 챗GPT와 같은 생성형 인공지능(AI)의 활용에 관한 규칙안을 마련했다. AI를 악용하면 온갖 가짜 정보나 가짜 뉴스를 만들 수 있는 만큼, AI 개발자는 물론이고 AI를 쓰는 일반 이용자들도 이런 위험성을 인지하고 막는 데 협력해야 한다는 포괄적인 내용을 담았다.

일본 아사히신문에 따르면 1일 G7의 디지털·기술 부처 장관들은 AI 활용에 관한 국제 룰을 정한 ‘히로시마 AI 프로세스’ 합의안을 마련했다. 연내 온라인으로 G7 정상회의를 갖고, 이번 합의안을 승인할 예정이다. 올해 G7 의장국인 일본은 지난 5월 히로시마 G7 정상회의에서 이른바 ‘히로시마 AI 프로세스’를 제안했다. 생성형 AI가 가짜 정보를 확산해 민주주의와 인권을 위협할 우려가 있는 만큼, G7이 공통의 활용 규칙을 정하자는 것이다. AI를 활용하면 특정 정치인의 외모와 목소리를 악용해 가짜 정보를 이야기하는 동영상이나 음성을 만들 수 있다. 아동 포르노 같은 불법 콘텐츠도 무한하게 생성하면서 수많은 피해자를 낳을 수 있다.

합의안은 개발자들이 AI를 만들 때 내·외부에 가짜 정보를 확산하거나 프라이버시를 침해할 위험성을 줄일 방안을 검증받도록 했다. AI가 제대로 작동하는지를 기업이나 개발자들이 먼저 철저히 살펴본 뒤에 서비스에 나서라는 것이다. 일반 이용자에게는 ‘AI의 취약성을 탐지하는 데 협력해야 한다’고 했다. 개발자는 물론이고 이용자들도 가짜 콘텐츠를 생성하는 AI의 위험성을 막는 데 협조해야 한다는 의무 조항을 둔 것이다.

실행 방안으론 AI가 만든 콘텐츠를 식별하는 기술을 확립하자고 했다. 일종의 워터마크(식별 표시)를 넣어 온라인에 떠도는 사진이나 동영상, 텍스트가 인간의 실제 콘텐츠인지, AI가 인위적으로 만들었는지 누구나 알 수 있도록 하자는 것이다. 아사히신문은 “이번 합의안은 법적인 구속력은 없다”며 “G7은 각자 합의안의 실효성을 담보하기 위한 조치를 마련할 계획”이라고 보도했다.

[도쿄=성호철 특파원]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -