AI 위험 대응 및 안전 정책 연구 전담... 판교 글로벌 R&D센터에 설치
30여명 규모로 운영…국제 AI안전 네트워크 참여 등 글로벌 연대 확대
윤석열 대통령이 지난 5월 21일 열린 'AI 서울 정상회의'에서 개회사를 하고 있다. [사진=대통령실] |
<이미지를 클릭하시면 크게 보실 수 있습니다> |
이는 지난 5월 개최된 'AI서울정상회의'의 후속 조치로, 연구소는 한국전자통신연구원(ETRI) 산하에 신설된다. 위치는 판교 글로벌 R&D센터다. 초대 소장에는 AI 분야 전문성과 국제적 감각을 갖춘 전문가를 영입해, 11월 중순 무렵 임명한다. 연구소는 AI안전 정책, 평가, 기술 분야의 3개 연구실로 구성되며, 총 30여 명의 연구 인력을 단계적으로 확보할 예정이다.
연구소의 주요 기능으로는 △AI 위험 정의 및 안전 평가 △AI안전 정책 연구 △대내외 협력 수행 △AI안전 확보를 위한 R&D 추진 등이 있다. 특히, AI 통제력 상실 대응, AI 모델의 보안·강건성 강화, 딥페이크 탐지 등 고도화되는 AI 위험에 대비한 안전 기술 개발에 주력한다.
일각에선 AI 기본법 부재, 예산 삭감에 대한 우려도 제기된다. 현재 AI 기본법 관련해서만 11개 법안이 국회에 발의돼 있다. 이에 정부는 국회 논의 중인 AI기본법에 연구소 운영 근거 마련을 추진한다.
남철기 과기정통부 인공지능기반정책과장은 "통상 독립 공공 기관을 설립할 때는 법적 근거가 필요하다. AI안전연구소는 빠르게 설립할 필요가 있어서 일단 ETRI 내 조직으로 운영할 계획"이라며 "연구소의 중요성에 대해 국회와 재정 당국이 인지하고 있기 때문에 예산 지원 등도 병행적으로 이루어질 것"이라고 설명했다.
AI안전연구소는 다음 달 20일부터 미국 샌프란시스코에서 개최되는 '국제 AI안전연구소 네트워크' 행사 참여를 시작으로 본격적인 활동에 나선다. 정부는 이를 통해 글로벌 AI 안전 거버넌스의 주요 일원으로서 국제 협력을 강화하고, 국내 AI 기업들의 안전한 AI 개발을 지원할 방침이다.
유상임 과기정통부 장관은 "AI안전연구소 출범을 통해 우리나라가 인공지능, 디지털 분야 선도국으로 도약할 수 있는 기반을 마련할 것"이라며, "관계 부처와 적극 협력하여 속도감 있게 추진해 나가겠다"고 말했다.
/윤소진 기자(sojin@inews24.com)
[ⓒ 아이뉴스24 무단전재 및 재배포 금지]
이 기사의 카테고리는 언론사의 분류를 따릅니다.
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.