SW정책연구소, “AI 안전성 확보, AI 산업 지속 발전 위한 선결 과제”

게티이미지뱅크

인공지능(AI) 안전성 확보가 AI 산업의 지속 발전을 위한 선결 과제로 부상했다.

소프트웨어정책연구소(SPRi)는 최근 '해외 AI안전연구소 추진 현황과 시사점' 보고서를 발간했다.

보고서에 따르면, 챗GPT가 촉발한 생성 AI 기술이 확산하면서 AI 시스템의 오작동, 악의적 사용 등 여러 잠재 요인으로 인한 부작용에 대해 우려가 높아지고 있다.

이에 대응해 주요 선진국은 지난해 말부터 AI 안전연구소를 설립해 AI 안전성 확보를 추지하고 있다.

현재 미국, 영국, 일본 3개국이 AI 안전연구소를 설립했으며, 캐나다는 지난 4월 AI 안전연구소 설립에 5000만달러(약 700억원)을 투자하겠다고 밝혔다.

주요국 AI 안전연구소 설립현황

우리 정부도 지난 5월 'AI 서울 정상회의'에서 AI 안전연구소를 올해 안에 설립하겠다고 발표했다.

SPRi는 “각 국의 AI 안전연구소는 'AI 안전성 평가를 위한 프레임워크와 평가 도구 개발', '관련 연구 정보 공유', '인력 교류 및 국제 표준화를 위해 긴밀한 협력'을 하는 구심점 역할을 할 것”이라고 예상했다.

실제로 지난 2월 미국과 일본은 공동 성명을 통해 AI 안전연구와 협력을 약속했다.

지난 4월 미국 상무부(NIST)와 영국 과학혁신기술부 AI 안전연구소는 최첨단 AI 모델 안전성 테스트 개발을 위한 양해각서(MOU)를 교환했다.

SPRi는 “AI 안전연구소 운영 효과를 높이기 위해 AI 안전연구소의 기능을 정의하고 민간의 우수한 인력과 기술을 도입할 수 있도록 하는 법 근거를 마련해야 한다”며 “이를 위해선 국가AI위원회 등 최고 수준의 AI 정책 기구에서 국가 AI 전략, 법 제도 등 안전성 확보 정책을 개발해야 한다”고 강조했다.

윤석열 대통령을 위원장으로 하는 대통령 직속 국가AI위원회는 내달 출범할 예정인 것으로 전해졌다.

현대인 기자 modernman@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]