韓 'AI 안전연구소' 개소…산학연 협력해 AI 안전지킨다

27일 과기정통부 AI안전연구소 개소식 개최

AI 안전 평가와 국제 표준 등 마련에 속도

정부 예산 120억원 투입 예정, 인력 충원도

[이데일리 최연두 기자] 안전하고 신뢰할 수 있는 인공지능(AI) 기술과 서비스 개발을 위한 토대가 마련됐다. AI 리스크 기반 연구를 전담하는 정부 출연기관 ‘AI안전연구소’(AISI·아이시)가 국내 출범한 것이다. 전 세계에서 여섯 번째로 AI안전연구소를 설립한 한국은 안전한 AI를 위한 글로벌 연대를 강화할 방침이다.

김명주 인공지능안전연구소장이 27일 경기 분당구 판교 글로벌 연구개발(R&D) 센터에서 열린 개소식에서 연구소 운영 계획을 설명하고 있다.(사진=과기정통부)

27일 과학기술정보통신부는 경기 분당구에 위치한 판교 글로벌 연구·개발(R&D)센터에서 AI안전연구소 개소식을 개최했다. AI안전연구소는 AI 안전과 관련된 평가나 국제 표준 및 인증 등의 정책 기능을 담당할 예정이다. 주요 추진 과제로는 △AI안전 평가 △AI안전 정책 연구 △AI안전 글로벌 협력 △AI안전 R&D 등 4가지다. 연구소 운영을 위한 정부 예산은 R&D 부문 80억원, 비R&D 부문 40억원이 투입된다.

김명주 AI안전연구소 초대소장은 이날 열린 개소식에서 “AI 활용으로 발생할 수 있는 제반 위험 평가와, 이를 예방하고 극소화하기 위한 정책·기술을 개발하고 국내외 연대를 강화해 나갈 것”이라며 “연구소는 규제 기관의 성격이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는데 장애가 되는 위험 요소들을 최소화하도록 지원하는 협력 기관으로 역할을 하겠다”고 강조했다.

정부는 이번 연구소를 구심점으로 AI안전컨소시엄을 운영하는 한편, 국제 AI안전연구소 네트워크의 회원국으로서 활동 범위를 넓힐 계획이다. 국제 네트워크는 AI안전연구소를 설립한 국가들이 활동 중이며 영국과 미국, 일본, 싱가포르, 캐나다에 더해 이번에 한국도 합류하게 됐다. 의장국은 미국이다.

AI안전컨소시엄에는 AI 분야 국내 산·학·연 분야 기업과 기관 총 24곳이 참여한다. 이날 컨소시엄 참여 업무협약(MOU)식에는 네이버와 삼성리서치, 카카오, LG AI연구원, SK텔레콤, KT, 코난테크놀로지, 뤼튼테크놀로지스 등 13개 기업이 참여했다. 학계에선 서울대, KAIST, 성균관대, 숭실대, 고려대, 연세대 등이 이름을 올렸다.

AI안전연구소의 인력은 지속적으로 충원하기로 했다. 현재 전체 인원이 12명이지만 향후 3년 간 30명 내외로 인원을 늘린다. 한국전자통신연구원(ETRI) 주요 인력(8명)에 더해 신규 인력 20여명을 채용하고 한국정보통신기술협회(TTA) 등 소속의 파견 인력도 뽑는다.

류광준 과학기술정보통신부 과학기술혁신본부장이 27일 판교 글로벌R&D센터에서 열린 AI안전연구소 개소식에서 기념사진을 촬영했다.(사진=과기정통부)