기술 오남용 등 AI 위험 대응 ‘AI 안전연구소’ 개소

AI안전연구소 개요. 과학기술정보통신부 제공

안전하고 신뢰할 수 있는 인공지능(AI) 사용을 위한 연구 전담 조직 ‘AI 안전연구소’가 문을 열었다.

과학기술정보통신부는 27일 경기 성남시 판교글로벌R&D센터에서 AI 안전연구소 개소식을 개최했다. AI 안전연구소는 AI의 기술적 한계, 인간의 AI 기술 오용, AI 통제력 상실 등으로 일어날 수 있는 위험에 체계적·전문적으로 대응하게 된다. 아울러 산·학·연 기관이 AI 안전 분야 연구 협력과 정보 교류를 하는 허브이자, 현재 미국·일본 등 10개국이 참여 중인 ‘국제 AI 안전연구소 네트워크’ 일원으로 활동하게 된다.

국가AI위원회 글로벌 자문위원인 요슈아 벤지오 캐나다 몬트리올대 교수는 영상 축사에서 AI 안전연구소의 역할에 대해 업계와 협업을 통한 AI 위험 평가 방법 연구, 업계 등에 AI 안전성 요건 수립 지원, 국제 협력을 통한 AI 안전 체계 조화를 꼽았다.

김명주 AI 안전연구소장은 “연구소는 규제 기관의 성격이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력 기관의 역할을 하겠다”고 말했다.

개소식에 이어 ‘대한민국 AI 안전 컨소시엄’ 협약식이 열려 네이버·KT·카카오·LG AI연구원·SKT·삼성전자 등 국내 주요 기업을 포함한 24개 기관이 AI 안전에 관한 정책연구, 평가, 연구 개발에서 상호 협력을 위한 업무협약을 맺었다.

유상임 과기정통부 장관은 “최근 1년 만에 미국, 영국, 일본, 싱가포르, 캐나다 등 주요국 모두 AI 안전연구소를 설립하고, 국제 AI 안전 협력체계가 구축되고 있다”며 “AI 안전연구소가 아·태 지역을 대표하는 AI 안전 연구허브로 발전해 나갈 수 있도록 적극 지원하겠다”고 밝혔다.

배문규 기자 sobbell@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 짧게 살고 천천히 죽는 ‘옷의 생애’를 게임으로!

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지