과기정통부, AI 윤리·신뢰 확보 앞장…“가이드라인 만들고 민간 검증 확대”

이종호 과학기술정보통신부 장관. /과학기술정보통신부 제공

“인공지능(AI) 윤리 생태계 기반 조성과 규제 체계를 정립해 새로운 디지털 질서의 모범이 될 수 있도록 힘쓰겠다.”

이종호 과학기술정보통신부 장관은 25일 서울 강서구 LG 사이언스파크에서 열린 ‘제4차 인공지능 최고위 전략대화’에서 이렇게 말했다.

이날 과기정통부는 그동안 진행한 AI 관련 간담회 및 현장 방문 등에서 수렴한 의견들을 토대 ‘AI 윤리·신뢰성 확보 추진계획’을 발표했다. AI 윤리·신뢰성 확보 추진계획은 민간 자율 AI 윤리·신뢰성 확보 지원, 세계를 선도하는 AI 윤리·신뢰성 기술·제도적 기반 마련, 사회 전반 책임 있는 AI 의식 확산 등을 목표로 한다.

먼저 생성형 AI 기반 서비스 등 분야별 가이드라인을 마련해 확대하고, 민간 자율 신뢰성 검증을 오는 11월부터 추진한다. AI 사업 중 고위험 영역 AI 개발 및 실증 사업을 수행하는 기업을 일부 선정해 오는 12월에 시범 인증에 나선다.

또 AI의 잠재 위험에 대응하기 위해 기존 AI의 한계를 극복하고 초거대 AI의 신뢰성을 확보하기 위한 기술 개발을 내년부터 신규로 추진한다. 차세대 생성형 AI 기술을 개발하기 위해 2024년부터 2027년까지 220억원을 지원한다.

AI가 생성한 결과물에 대한 워터마크 도입의 제도화를 검토한다. 또 내년 1분기까지 고위험 AI에 대한 해설서를 마련해 제도 정립에 나선다.

이날 행사에서는 김유철 LG AI 연구원 부문장(AI 윤리원칙 실행을 위한 기업의 노력)과 김동민 JLK 대표(고위험 AI 분야에 대한 신뢰성 검·인증의 필요성)의 발표도 진행됐다. 발표 후 진행된 토론에서는 AI 산업 발전과 신뢰성 확보의 균형을 위한 민간자율 검·인증 추진방향 등에 대한 논의가 이뤄졌다.

이 장관은 “AI는 디지털 심화 시대의 핵심기술로 AI의 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다”라며 “민간 자율 AI의 신뢰성 검증 지원 등에 힘쓰고 정책방안을 보완할 수 있도록 최선을 다하겠다”라고 했다.

윤진우 기자(jiinwoo@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>