AI 안전 전담조직 설치 “아태 AI 안전허브 육성”

올해 신규 R＆D에 40억원 투입

정부가 전 세계 화두로 떠오른 인공지능(AI)에 대한 규범 체계를 선도적으로 정립해, 대한민국을 아태 지역 ‘글로벌 AI 안전 허브’로 육성하기로 했다.

AI의 안정성을 검증하는 전담 조직을 설치하고, 환각 현상 등 AI의 한계 극복하기 위해 올해 40억원을 투입해 신규 연구개발(R&D)을 추진한다.

딥페이크의 생성, 유통, 확산 등 전주기에 대응하는 체계를 구축하고 AI 저작권 제도도 정비한다. 갈수록 커지는 디지털 위협에 대비해 핵심 보안 기술 개발에도 1141억원을 집중 투자한다.

정부는 21일 국무회의에서 이 같은 내용을 골자로 한 ‘새로운 디지털 질서 정립 추진계획(이하 추진계획)’을 보고했다.

정부는 이번 추진계획을 통해 20대 정책과제를 설정하고, 이 중 파급성·시급성이 높은 정책과제 8개는 핵심 과제로 지정했다. 8대 핵심과제로는 ▷AI 기술의 안전성과 신뢰·윤리 확보 ▷딥페이크를 활용한 가짜뉴스 대응 ▷AI 개발·활용 관련 저작권 제도 정비 ▷디지털 재난과 사이버 위협·범죄 대응 ▷디지털 접근성 제고·대체 수단 확보 ▷비대면 진료의 안정적 시행 ▷연결되지 않을 권리 보호 ▷잊힐 권리 보장을 지정했다.

우선 정부는 AI 혁신과 안전 신뢰(이용자 보호 등)의 균형을 위한 법제 제정을 연내 마무리해 AI 규범 체계를 선도적으로 정립한다는 목표다. 특히 이날 개최되는 AI 서울 정상 회의를 통해 글로벌 AI 규범·거버넌스 논의를 주도할 계획이다.

또 AI 안전성을 검증·연구하는 전담조직을 설치해 아태 지역의 AI 안전 허브로 육성할 예정이다. 편향성, 환각, 불투명성, 일관성 결여 등 AI 한계 극복 목적의 신규 R&D도 올해 40억원 규모로 추진한다.

딥페이크를 활용한 가짜뉴스 대응에도 힘을 싣는다. AI 생성물의 워터마크 표시를 의무화하고 딥페이크 탐지·식별 기술 개발 등을 통해 딥페이크 가짜뉴스의 생성부터 유통, 확산 전주기에 대한 대응 체계를 구축해나갈 계획이다.

AI 저작권 제도를 정비해 AI 기반 창작 산업 활성화를 지원한다. AI 학습 이용 저작물에 대한 적정 이용 대가 산정 방안 등 연구 결과를 종합해 연말까지 ‘저작권법’ 등 저작권 제도 정비 방안을 마련할 계획이다.

이와 함께 디지털 위협에 대비하는 국가 대응 체계를 확충한다. 데이터·AI 보안, 네트워크 보안 등 핵심 보안기술 개발을 위한 투자도 대폭 늘려 올해는 전년 대비 22.5% 증가한 1141억원을 집중 투자한다. 박세정 기자

sjpark@heraldcorp.com

Copyright ⓒ 헤럴드경제 All Rights Reserved.