"AI 안전이 최우선"...전담조직 두고 딥페이크 방지 워터마크 의무화한다

과기정통부, '디지털 권리장전' 실천 위한 추진 계획 발표
생성형 AI 학습 데이터에 지불할 적정 대가 기준도 마련

최상목 경제부총리 겸 기획재정부 장관(오른쪽)과 이종호 과학기술정보통신부 장관이 21일 오전 서울 종로구 정부서울청사에서 열린 국무회의에 입장하고 있다. 연합뉴스

정부가 인공지능(AI)을 포함한 디지털 기술 개발로 인한 쟁점을 해결하고 규범을 구체화하는 작업에 나선다. AI 기술의 안전성을 확보하고 '딥페이크' 등 온라인의 신뢰를 깨는 AI 생성물에 대한 규제에 선제적으로 나서는 한편 AI 학습에 쓰인 저작물에 대해선 적절한 대가를 지불할 수 있게 저작권 제도도 정비할 계획이다.

과학기술정보통신부는 21일 국무회의에서 '새로운 디지털 질서 정립 추진 계획'을 보고했다고 밝혔다. 지난해 9월 발표한 '디지털 권리장전'을 구체적으로 실천하기 위해 마련한 후속 계획안으로, AI 안전성과 AI 창작물의 저작권 문제 등 디지털 심화 시대에 해결해야 하는 20대 정책 과제를 수립해 소개했다.

20개 과제 가운데 국민 관심사가 크거나 파급성·시급성이 높은 정책 과제 8개는 '핵심과제'로 지정했는데 이 중 세 가지는 AI와 연관돼 있다. 우선 ①AI 안전과 신뢰·윤리를 확보하기 위해 AI 관련 법제 제정을 연내 마무리하고 AI 안전성을 검증·연구하는 전담 조직을 설치해 아태지역의 AI 안전 허브로 키우기로 했다. 과기정통부는 당초 이번 국회 회기 내 'AI 기본법'이 통과되기를 희망했고 여야의 의견 차이도 좁혀졌지만 다른 정치 이슈에 휘말려 사실상 없던 일이 됐다.

②생성형 AI가 거짓 이미지, 음성, 영상 등을 만들어내는 딥페이크에 대한 대응도 강화한다. AI 생성물임을 알아볼 수 있는 '워터마크'의 표시를 의무화하는 법 개정을 추진하고 딥페이크를 이용해 만든 가짜뉴스의 확산을 막기 위해 탐지·식별 기술과 삭제 요청을 자동화하는 기술을 만들기로 했다. 또 ③AI 개발과 활용을 위해 저작권 제도도 정비한다. 학습 데이터를 확보하되 적절한 대가를 치를 수 있도록 올해 말까지 'AI 저작권 워킹 그룹'을 운영하고 적정 이용 대가를 산정하는 방안을 연구한다.

시민사회 우려에... '디지털 공론장' 운영해 공감대 형성

21일 서울 광화문광장의 전광판에 'AI 서울 정상회의' 홍보 이미지가 나오고 있다. AP 연합뉴스

AI와 직접적으로 연결되지 않은 핵심 과제로는 ④디지털 재난 및 사이버 범죄 대응 ⑤디지털 접근성 제고 ⑥비대면 의료 제도화 ⑦쉬는 시간에는 '연결되지 않을 권리' 보호 ⑧과거 기록을 지울 수 있는 '잊힐 권리' 보장 등이 꼽혔다.

정부는 이들 정책 의제에 공감대를 형성하기 위해 '디지털 공론장'을 운영하고 연말까지 참여를 유도해 시민 의견을 반영하겠다고 밝혔다. 앞서 참여연대·정보인권연구소 등 시민단체들은 정부가 입법을 추진한 AI기본법이 AI의 위험성에 대응할 실효성이 없는 법안이라고 지적했고 22일부터 개최되는 'AI 서울 정상회의'에 대해서도 시민 사회를 배제한 채 열렸다고 비판해 왔다.

과기정통부는 한국의 디지털 규범 논의를 해외에도 적극 알릴 예정이다. 이날부터 22일까지 열리는 'AI 서울 정상회의'와 더불어 △경제협력개발기구(OECD)의 디지털 규범 상설 논의체 △유엔 디지털 글로벌 규범(GDC) 등을 통해서도 추진 성과를 적극 반영하겠다는 것이다. 이종호 과기정통부 장관은 "전 부처가 합심하여 디지털 심화 시대의 모범국가로서 글로벌 디지털 질서 정립에 기여할 수 있도록 노력할 것"이라고 밝혔다.

인현우 기자 inhyw@hankookilbo.com