AI 안전 전담조직 설치…“아태지역 글로벌 AI 안전허브로 육성”

-AI 한계 극목 신규 R＆D에 올해 40억원 투입

-딥페이크 전주기 대응체계 구축, AI 저작권 제도 정비

-핵심 보안 기술 개발에 1141억원 투입

이종호 과학기술정보통신부 장관 [임세준 기자]

[헤럴드경제=박세정 기자] 정부가 전 세계 화두로 떠오른 인공지능(AI)에 대한 규범 체계를 선도적으로 정립해, 대한민국을 아태 지역 ‘글로벌 AI 안전 허브’로 육성한다.

AI의 안정성을 검증하는 전담 조직을 설치하고, 환각 현상 등 AI의 한계 극복하기 위해 올해 40억원을 투입해 신규 연구개발(R&D)을 추진한다.

딥페이크의 생성, 유통, 확산 등 전주기에 대응하는 체계를 구축하고 AI 저작권 제도도 정비한다. 갈수록 커지는 디지털 위협에 대비해 핵심 보안 기술 개발에도 1141억원을 집중 투자한다.

정부는 21일 국무회의에서 이같은 내용을 골자로 한 ‘새로운 디지털 질서 정립 추진계획’(이하 추진계획)을 보고했다.

정부는 이번 추진계획을 통해 20대 정책과제를 설정하고, 이 중 파급성·시급성이 높은 정책과제 8개는 핵심 과제로 지정했다. 8대 핵심과제로는 ▷AI 기술의 안전성 및 신뢰·윤리 확보 ▷딥페이크를 활용한 가짜뉴스 대응 ▷AI 개발·활용 관련 저작권 제도 정비 ▷디지털 재난 및 사이버 위협·범죄 대응 ▷디지털 접근성 제고·대체 수단 확보 ▷비대면 진료의 안정적 시행 ▷연결되지 않을 권리 보호 ▷잊힐 권리 보장을 지정했다.

우선 정부는 AI 혁신과 안전‧신뢰(이용자 보호 등)의 균형을 위한 법제 제정을 연내 마무리해 AI 규범 체계를 선도적으로 정립한다는 목표다. 특히 이날 개최되는 AI 서울 정상 회의를 통해 글로벌 AI 규범·거버넌스 논의를 주도할 계획이다.

또 AI 안전성을 검증·연구하는 전담조직을 설치해 아태지역의 AI 안전 허브로 육성할 예정이다. 편향성, 환각, 불투명성, 일관성 결여 등 AI 한계 극복 목적의 신규 R&D도 올해 40억원 규모로 추진한다.

딥페이크를 활용한 가짜뉴스 대응에도 힘을 싣는다. AI 생성물의 워터마크 표시를 의무화하고 딥페이크 탐지·식별 기술 개발 등을 통해 딥페이크 가짜뉴스의 생성부터 유통, 확산 전주기에 대한 대응 체계를 구축해나갈 계획이다.

AI 저작권 제도를 정비해 AI 기반 창작 산업 활성화를 지원한다. AI 학습 이용 저작물에 대한 적정 이용 대가 산정 방안 등 연구 결과를 종합해 연말까지 ‘저작권법’ 등 저작권 제도 정비 방안을 마련할 계획이다.

과학기술정보통신부 [과학기술정보통신부 제공]

이와함께 디지털 위협에 대비하는 국가 대응 체계를 확충한다. 데이터·AI 보안, 네트워크 보안 등 핵심 보안기술 개발을 위한 투자도 대폭 늘려 올해는 전년 대비 22.5% 증가한 1141억 원을 집중 투자한다.

이외에도 소외계층을 대상으로 맞춤형 디지털 포용서비스 제공을 강화해 디지털 접근성을 높인다. 디지털 기기와 서비스에 익숙하지 않은 국민들을 위해 행정·금융 등 필수 영역에서 디지털 대체 수단을 확대한다.

의료법 개정을 통해 비대면 진료를 본격 제도화하고 개인 건강정보보호, 처방전 위·변조 방지 등 관리체계 개선 방안 마련에도 힘을 싣는다. 연결되지 않을 권리, 잊힐 권리와 같은 개인의 디지털 권리 향상을 위한 노력도 본격 추진해 나갈 계획이다.

이종호 과학기술정보통신부 장관은 “‘우리가 실제 마주할 디지털 심화 쟁점들을 실질적으로 해결할 수 있는 범정부 차원의 정책을 마련한 것”이라며 “전 부처가 합심해 디지털 심화 시대의 모범 국가로서 글로벌 디지털 질서 정립에 기여할 수 있도록 노력할 것”이라고 밝혔다.

sjpark@heraldcorp.com

Copyright ⓒ 헤럴드경제 All Rights Reserved.