AI안전연구소 11월 출범…딥페이크 등 대응서 국제 공조 방안 찾는다

과기정통부 '제17차 정보통신전략위원회'
'국제 AI안전연구소 네트워크' 회원사 참여

게티이미지뱅크

인공지능(AI) 기술의 빠른 확산으로 생긴 위험을 평가하고 대응책을 마련할 'AI안전연구소'가 11월 중 출범한다. 클라우드 공급을 확대하기 위해 도입한 클라우드컴퓨팅 기본계획에도 AI 관련 지원책이 전면에 등장했다.

과학기술정보통신부는 18일 '제17차 정보통신전략위원회'를 열고 AI안전연구소의 설립·운영 계획을 공유했다고 밝혔다. 새 연구소는 AI의 안전한 개발·활용을 확산하고 타국의 AI안전연구소와 협력해 AI 안전 규범을 정립하는 역할을 담당하게 된다.

5월 서울에서 열린 'AI 서울 정상회의'에서 AI안전연구소의 국제 네트워크를 만들기로 합의하면서 한국 정부도 대응 조직이 필요해 설립을 추진해 왔다. 현재 미국, 영국, 일본 등은 AI안전연구소를 설립했고 유럽연합(EU)과 싱가포르는 기존 조직에 AI안전연구소 역할을 맡겼다.

11월 AI안전연구소는 한국전자통신연구원(ETRI) 내 신규 연구소 조직으로 설치된다. AI 기업 및 유관기관과의 협력을 위해 판교 글로벌R&D센터에 자리 잡은 후 규모를 키울 예정이다. AI 안전 정책·평가·기술분야 등 3개 연구실로 구성되며 연구소 초대 소장은 학계와 업계에서 다수 후보를 놓고 검토 중이다.

AI안전연구소는 11월 20일 미국 샌프란시스코에서 개최되는 '국제 AI안전연구소 네트워크'의 첫 회의에 참석해 본격 활동을 시작한다. 이 행사는 △'딥페이크' 등 합성 콘텐츠 대응 △AI 기반모델 평가 △위험평가 방안 등을 의제로 잡고 있다.

한편 정보통신전략위원회는 이날 클라우드 생태계 지원을 위한 '제4차 클라우드컴퓨팅 기본계획'도 승인했다. AI 활용에 클라우드 도입이 필수적인 점을 고려해 AI와 클라우드 분야 투자에 대해 세액공제를 확대하는 방안을 추진하고, 국산 AI 반도체를 기반으로 한 'K-클라우드' 프로젝트도 본격화한다는 내용이 담겼다.

인현우 기자 inhyw@hankookilbo.com