과기정통부, AI 윤리·신뢰 강화 나선다

과기정통부, AI 윤리·신뢰성 간담회 개최

박윤규 차관 "AI 신뢰 관련법 제정 지원"

과학기술정보통신부가 인공지능(AI) 관련 법안 제정을 지원하는 방식으로 관련 산업 발전 방안을 모색한다.

박윤규 과기정통부 2차관은 11일 서울 명동에서 진행된 AI 윤리·신뢰성 관련 현장간담회에서 ‘인공지능 산업 육성 및 신뢰 기반 조성 등에 관한 법률안’ 제정을 지원해 우리나라가 세계 최초로 인공지능법을 마련할 수 있도록 노력하겠다고 밝혔다.

박 차관은 “챗GPT 등장 이후 인공지능 모델의 신뢰성 이슈가 새로운 국면에 접어들고 있다”며 “국회 상임위원회 법안소위를 통과한 인공지능법은 고위험 영역에서 활용되는 인공지능을 정의하고 사전 고지 의무를 부과하는 한편 신뢰성 확보 조치 등 사업자 책무를 규정하는 적정 수준의 규제를 포함했다”고 설명했다. 이어 “일각에서 이 같은 법이 인공지능 진흥을 위해서만 제정되는 것처럼 비판하는데 법안 명칭에서도 알 수 있듯 일방적인 산업 육성만을 위한 것이 아니다”라며 “아울러 최근 문제로 제기되는 AI의 한계를 극복할 연구개발 사업에 정부가 집중할 필요성도 강하게 느끼고 있다”고 강조했다.

최동원 과기정통부 인공지능기반정책과장은 “인공지능 제품·서비스의 위험 요인을 분석, 신뢰성을 검·인증하는 체계를 마련해 올해 하반기부터 시범 인증을 시작할 계획”이라며 “초거대 AI 모델의 위험성과 성능 등에 대해 공신력 있는 제3기관이 평가할 수 있도록 정부가 지원하는 방안도 추진할 것”이라고 밝혔다. 과기정통부는 인공지능 윤리 영향 평가를 도입하는 한편 설명 가능성, 공정성 등을 갖춘 인공지능 관련 기술 6개 과제 개발에 2026년까지 650억원을 투자할 방침이다.

양철민 기자 chopin@sedaily.com
[ⓒ 서울경제, 무단 전재 및 재배포 금지]