서울의 약속...'AI 규범' 세계가 함께 만든다

23일 'AI 서울 정상회의' 마무리
"AI 안전·혁신·포용 위한 국제 네트워크 구축"
기업들도 '서울 AI 기업 서약' 통해 협업 약속

22일 오후 서울 성북구 한국과학기술연구원(KIST)에서 열린 'AI 서울 정상회의' 장관 세션에서 참석자들이 기념촬영을 하고 있다. 과학기술정보통신부 제공

인공지능(AI)의 책임 있고 지속 가능한 개발을 위해 한국과 영국을 비롯한 각국 정부와 기업들이 22일 서울에 모여 국제 사회가 지켜야 할 AI 규범의 방향성을 논의했다. 참가자들은 각국이 'AI 안전 연구소'를 세우고 정부와 기업 간 네트워크를 강화해 전 세계적 AI 거버넌스 확립에 힘을 합쳐야 한다는 데 뜻을 모았다.

이종호 과학기술정보통신부 장관과 미셸 더넬런 영국 과학혁신기술부 장관은 이날 서울 성북구 한국과학기술연구원(KIST)에서 열린 'AI 서울 정상회의' 장관 세션을 마치고 각국 정부와 기업들이 '안전하고 혁신적이며 포용적인 AI를 위한 서울 선언'에 동참하기로 했다고 밝혔다.

전날인 21일 정상 세션을 통해 발표된 '서울 선언'은 △일관성 있고 국가를 넘어 호환이 가능한 AI 국제 거버넌스 체제의 구축 △각국의 AI 안전 연구소 간 네트워크 확대와 글로벌 협력 촉진 △안전·혁신·포용적인 AI 생태계를 조성하기 위한 정책 △기업 등 다양한 이해관계자의 참여 등을 규정했다.

이를 이어받아 이날 진행된 장관 세션에서는 28개국이 '서울 장관 성명'을 채택했다. 이 성명은 17일 공개된 'AI 안전 국제 과학 보고서'를 바탕으로 현재와 가까운 미래의 AI 위험 요인을 진단하고 안전성 강화 방안을 모색하는 내용을 담았다. 여기에 에너지, 환경, 일자리 등 AI의 잠재적 부작용에 대해 회복 탄력성을 확보해야 한다는 내용도 더했다. 과기정통부는 특히 AI 개발에 따른 막대한 전력 소모를 줄이기 위해 저전력 반도체를 적극 활용하는 한국의 'AI·반도체 비전'이 담겼다고 강조했다.

"AI 기술 자체가 아닌 위험한 적용이 규제의 대상 돼야"

한덕수 국무총리가 22일 오전 서울 성북구 한국과학기술연구원(KIST)에서 열린 'AI 글로벌 포럼 개회식'에서 이종호 과학기술정보통신부 장관, 조태열 외교부 장관 및 참석자들과 기념촬영을 하고 있다. 과학기술정보통신부 제공

이날 AI 서울 정상회의와 동시에 진행된 'AI 글로벌 포럼'에서도 바람직한 AI 규제 방향에 대한 참가자들의 논의가 이어졌다. 고위급 라운드테이블에 참가한 70여 명의 정부 인사와 전문가들은 AI 기술이 아닌 AI의 위험한 적용이 규제의 대상이 돼야 하며 AI 위험성 평가는 사실과 데이터를 바탕으로 이루어져야 한다는 점에 공감했다. 'AI 석학'으로 유명하며 기조강연을 맡은 앤드루 응 미국 스탠퍼드대 교수는 "AI 규제는 AI 기술 자체가 아닌, 딥페이크 등 부적절한 적용 사례에 집중돼야 기술 개발을 저해하지 않을 것"이라고 밝혔다.

AI 글로벌 포럼 개회에 맞춰 국내외 14개 AI 개발 기업은 '서울 AI 기업 서약'을 발표했다. 이들은 ①책임 있는 AI 개발을 위해 AI 안전 연구소와 협력하는 한편 AI로 제작된 콘텐츠를 식별할 수 있는 '워터마킹' 등을 도입하고 ②AI 혁신을 위해 개발 투자를 지속하되 중소기업·스타트업과 협력하며 인력 육성에도 힘을 기울이기로 약속했다.

아울러 ③AI의 혜택을 사회 전체에 공평하게 나눌 수 있도록 사회적 취약계층을 위한 AI 서비스를 개발하고, 다양성과 포용성을 장려하기로 했다. 이 선언에는 한국에서는 네이버·카카오·삼성전자·LG AI연구원·SK텔레콤·KT가, 글로벌 기업은 오픈AI·앤트로픽·마이크로소프트(MS)·구글·IBM·코히어·세일즈포스·어도비가 동참했다.

AI 서울 정상회의는 지난해 11월 영국에서 열린 'AI 안전성 정상회의'의 결과물인 블레츨리 선언을 이어받되 AI의 혁신과 포용으로 의제를 확대한 회의다. 한국 정부는 AI 거버넌스 논의가 서구권을 중심으로 추진되는 가운데 비영미권인 한국에서 정상회의를 열게 된 것은 의미가 크다고 밝혔다. 이 회의의 결과는 내년 프랑스에서 열리는 'AI 행동 정상회의'로 계승된다.

이종호 과기정통부 장관은 "AI 서울 정상회의가 국제 사회의 역량을 결집해 AI의 안전·혁신·포용을 달성하는 '서울 효과'를 일으키기를 바란다"면서 "앞으로도 글로벌 AI 거버넌스와 규범 정립을 위하여 국제 사회와 긴밀하게 연대해 나가겠다"고 밝혔다.

인현우 기자 inhyw@hankookilbo.com