과기정통부, '국제 AI안전연구소 네트워크' 참여

딥페이크 탐지 기술 등 논의

[이데일리 최정희 기자] 과학기술정보통신부는 20~21일 미국 샌프란시스코에서 열리는 ‘국제 인공지능(AI)안전연구소 네트워크’ 행사에 참여했다고 밝혔다.

이번 행사는 ‘AI서울정상회의’에서 발표된 ‘서울선언’ 핵심의제인 AI안전연구소 설립과 안전한 AI에 대한 글로벌 협력을 이행하기 위한 후속 조치로 개최됐다.

일러스트=챗GPT 4.o, 달리3

5월 개최된 AI서울정상회의에서 윤석열 대통령은 “대한민국도 AI안전연구소 설립을 추진해 글로벌 AI안전성 강화를 위한 네트워크에 동참할 것”이라고 강조했다.

과기정통부를 이를 이행, 이번달 말 AI안전연구소 출범을 앞두고 있다. 이번 ‘국제AI안전연구소 네트워크 행사’에 지난 주 임명된 AI안전연구소 김명주 소장을 포함한 한국 대표단을 파견, 주요국 AI안전연구소와 긴밀한 네트워크를 구축했다.

이번 행사에는 주최국 미국을 포함해 10개국 AI안전연구소, AI 안전 분야 기술전문가 등이 참석한 가운데 ‘국제 AI안전연구소 네트워크’ 출범을 선언하고 네트워크 미션과 운영 거버넌스 논의와 AI연구 및 테스팅, 지침에 대한 기술적 논의를 진행했다.

예컨대 각국이 연구 개발 중인 AI 합성 콘텐츠의 워터마크, 탐지기술 등 투명성 확보 기술 및 관련 모범 사례를 공유하고 향후 글로벌 차원의 공동 연구주제 등을 논의했다. 한국 대표단은 현장에서 ‘딥페이크 탐지 및 생성억제 기술 연구’, ‘AI위험 평가 및 검증 체계’ 등 AI 안전 관련 국내 주요 연구 성과를 발표했다.

송상훈 과기정통부 정보통신정책실장은 “AI안전에 대한 글로벌 연대는 우리 정부가 주도해 정립했던 지난 서울 선언의 핵심의제였다”며 “서울선언의 핵심규범 및 가치가 주요국이 적극적으로 지지, 참여하는 국제 AI안전연구소 네트워크 출범으로 신속하게 구체화됐다는 점에서 뜻이 깊다”고 밝혔다.