딥페이크 등 악의적 AI 폐해 막는다…韓 AI안전연구소 출범

AI안전연구 전담조직 탄생…AI기술 오용·통제력 상실 등 대응

"최근 미·영·일 등 주요국 모두 AI안전연구소 설립…국제 협력 구축"

[서울=뉴시스]윤현성 기자 = 정부가 딥페이크(영상 조작물), 사이버 공격 등 인공지능(AI)을 악용해 나타날 수 있는 잠재적 위험에 대응하기 위해 전담조직을 꾸렸다. 특히 이번에 탄생한 AI안전연구소를 아시아태평양지역의 AI 안전 연구 중심지로 만들고 AI 안전 확보를 위한 국제 협력을 확대한다는 계획이다.

과학기술정보통신부는 27일 판교 글로벌 R&D센터에서 'AI안전연구소' 개소식을 개최했다.

지난 5월 AI서울정상회의에서 10개국 정상은 안전이 책임있는 AI혁신을 위한 핵심요소임을 확인하고, AI안전연구소 설립과 안전한 AI에 대한 글로벌 협력을 강조했다. 윤석열 대통령도 "대한민국 AI안전연구소 설립을 추진해 글로벌 AI안전성 강화를 위한 네트워크에 동참할 것"이라는 의지를 밝혔다.

이에 과기정통부는 그간 연구소 조직·예산·인력·기능에 대한 사전준비를 거쳐 AI안전연구소를 출범시켰다. AI안전연구소는 AI의 기술적 한계, 인간의 AI기술 오용, AI 통제력 상실 등으로 발생하는 다양한 AI위험에 체계적·전문적으로 대응하기 위한 AI안전연구 전담조직이다.

산·학·연 기관이 AI안전분야 연구 협력과 정보 교류를 할 수 있는 대한민국 AI안전연구 허브이자, '국제 AI안전연구소 네트워크'의 일원으로 안전한 AI를 위한 글로벌 연대의 책임있는 역할을 수행해 나갈 계획이다. 이를 통해 AI안전 분야의 경쟁력있는 기술·인력을 육성하고, 과학적 연구데이터에 근거한 AI안전 관련정책의 개발·선진화를 추진한다는 목표다.

이날 국가AI위원회 글로벌 자문위원인 AI분야 세계적 석학 요슈아 벤지오 교수는 축사를 통해 "서울선언에 따라 한국정부가 AI안전연구소를 설립하게 된 것을 축하한다"며 "AI안전연구소의 역할로 업계와 협업을 통한 위험 평가방법 연구·발전, AI안전성 요건 수립 지원, 국제협력을 통한 AI안전체계의 상호 조화가 중요하다"고 강조했다.

아울러 미국 엘리자베스 켈리 AI안전연구소 소장은 "대한민국이 AI안전 증진을 위해 보여준 글로벌 리더십과 지원에 깊이 감사하다"며 "한미 AI안전연구소가 전세계 동료들과 함께 AI위험을 줄이고 혜택을 극대화하며, 혁신을 촉진하기 위해 공통된 과학적 기준을 구축해 나가자"고 말했다. 영국 올리버 일럿 AI안전연구소 소장과 일본 아키코 무라카미 AI안전연구소 소장도 "대한민국 AI안전연구소 출범을 축하하며, AI기술을 안전하게 만들어 가기 위해 국경을 넘어선 협력을 확대하자"고 했다.

AI안전연구소 초대소장으로 임명된 김명주 소장은 '연구소 비전 및 운영계획'을 주제로 발표를 맡았다. 김 소장은 "AI활용으로 발생할 수 있는 제반위험 평가와 이를 예방·극소화하기 위한 정책·기술을 개발·보급하고, 국내·외 연대를 강화해 나갈 것"이라며 "연구소는 규제기관의 성격이 아니라, 국내 AI기업들이 글로벌 경쟁력을 확보하는데 장애가 되는 위험요소들을 최소화하도록 지원하는 협력기관으로 역할을 하겠다"고 강조했다.

이어진 '대한민국 AI안전컨소시엄' 협약식에서는 AI분야 국내 대표 산·학·연 기관 총 24곳이 참여한 가운데, AI안전에 관한 정책연구, 평가, 연구개발의 상호협력을 위한 업무협약(MOU)을 체결했다.

AI안전연구소와 컨소시엄 참여기관들은 AI안전 프레임워크(위험 식별·평가·완화) 연구·개발·실증, AI안전관련 국제규범 대응 등 정책연구, AI안전관련 기술 협력 등을 중점적으로 추진하고 향후 컨소시엄의 세부 연구주제와 운영방안을 구체화해 나갈 예정이다. 컨소시엄 참여기관들도 AI안전 연구와 관련된 전문성과 기여방안을 제시하며, AI안전연구소와 적극 협력하겠다는 의지를 나타냈다.

유상임 과기정통부 장관은 "AI안전은 지속가능한 AI발전의 전제로 AI분야에 종사하는 우리 모두가 함께 해결해 나가야할 가장 큰 도전과제"라며 "특히 지난 '영국 AI안전성 정상회의', 'AI서울정상회의' 이후 불과 1년 만에 미국, 영국, 일본, 싱가포르, 캐나다 등 주요국이 모두 AI안전연구소를 설립하고, 전례없이 기민하고 체계적인 국제 AI안전 협력체계가 구축되고 있다"고 설명했다.

이어 "우리도 AI안전연구소를 중심으로 산·학·연 연구역량을 결집해 AI안전의 기술·정책적 역량을 조속히 확보해 대한민국 AI산업 혁신을 촉진할 안전기반을 구축해 나가는 한편, 글로벌 AI안전 연대의 주도적인 역할을 수행하여 아태지역을 대표하는 AI안전 연구허브로 발전해 나갈 수 있도록 적극 지원하겠다"고 말했다.

☞공감언론 뉴시스 hsyhs@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개