尹 "AI 안전연구소 설립 동참" AI 정상회의 '서울 선언' 채택

한국, 미국, 영국 등 10개국과 유럽연합(EU)은 21일 화상으로 열린 '인공지능(AI) 서울 정상회의'에서 안전하고 혁신적이며 포용적인 AI를 위해 협력한다는 '서울 선언'을 채택했다.

AI 위험성에 따른 안전성뿐만 아니라 혁신과 포용성으로까지 국제 협력 공감대를 끌어낸 것이 가장 큰 성과다. 앞서 지난해 11월 영국 블레츨리 파크에서 열린 'AI 안전성 정상회의'에서는 AI 위험성에 따른 안전성에 초점이 맞춰졌다. 또 정상회의 참여국은 AI 위험에 대응하기 위한 안전연구소 필요성에 공감대를 확인하며 서울 선언 부속서로 'AI 안전 과학 국제협력을 위한 서울 의향서'를 채택했다. 영국은 AI 안전연구소 해외 사무소를 미국 샌프란시스코에 설립하기로 했고, 한국은 AI 안전연구소 네트워크에 동참하겠다는 뜻을 밝혔다.

AI 안전연구소 설립에 공감대가 형성되면서 앞으로 대규모 허위 정보를 유포하거나 사기에 악용될 AI에 대한 서비스 배포가 전면 중단된다. 인종, 성별, 문화, 나이, 장애 등을 활용해 편향된 결정을 내리는 AI 서비스 역시 중지될 것으로 전망된다.

이번 회의는 영국 AI 정상회의 후속으로 윤석열 대통령과 리시 수낵 영국 총리가 공동 주재했다. G7(미국·영국·프랑스·일본·독일·이탈리아·캐나다), 호주, 싱가포르와 EU가 참여했다. 또 에릭 슈밋 전 구글 최고경영자(CEO), 일론 머스크 테슬라 CEO, 이재용 삼성전자 회장, 이해진 네이버 창업자 등 국내외 유명 AI 기업 총수들도 참여했다.

윤 대통령은 이날 개회사에서 "AI 서울 정상회의는 그간의 노력을 결집해 글로벌 차원의 AI 규범과 거버넌스를 진전시키는 계기가 될 것"이라며 "AI 안전성을 확보해야 하는데 이러한 점에서 영국, 미국을 비롯한 주요국들의 AI 안전연구소 설립 노력을 환영한다"고 말했다. 윤 대통령은 또 "대한민국도 AI 안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것"이라고 밝혔다. 아울러 AI 혁신, 거주 지역과 소득 수준에 관계없이 누구나 AI 혜택을 누릴 수 있도록 AI 포용성을 확보하는 것이 중요하다고 윤 대통령은 강조했다.

구글, 아마존, 마이크로소프트(MS), 삼성전자 등 세계 각국의 16개 주요 기술 기업이 안전한 AI 개발을 약속했다. 영국 과학혁신기술부는 이날 성명을 내고 "영국과 한국이 블레츨리 선언을 기반으로 16개 글로벌 AI 기술 기업의 안전성 결과에 대한 약속을 확보했다"며 "기업들은 위험이 충분히 완화될 수 없다면 AI 모델을 개발하거나 사용하지 않기로 약속했다"고 밝혔다. 이날 'AI 안전 약속'에 이름을 올린 기업은 아마존과 앤트로픽, 코히어, 구글·딥마인드, G42, IBM, 인플렉션AI, 메타, MS, 미스트랄AI, 네이버, 오픈AI, 삼성전자, 테크놀로지 이노베이션 인스티튜트(TII), xAI, 지푸AI다. 이 가운데 TII는 아랍에미리트(UAE)의 기술 연구기관이고 지푸AI는 중국 알리바바, 텐센트, 샤오미 등의 지원을 받는 중국 기업이다.

한국은 이번 정상회의 개최로 AI 주요 3개국(G3)으로 도약하는 발판을 마련했다고 평가하며 AI 대중화 시대를 위한 질서 마련에 박차를 가한다는 계획이다. 생성형 AI 저작물 워터마크 표시가 의무화되고, 의료법을 개정해 비대면 진료가 본격 도입된다. AI 개발·활용 관련 저작권 제도도 정비돼 AI 학습에 필요한 언론사 뉴스 등에 대한 적정한 대가를 지급하는 방안이 마련될 것으로 보인다.

과학기술정보통신부는 이날 국무회의에서 이 같은 내용을 담은 '새로운 디지털 질서 정립 추진계획'을 보고했다. 자유·공정·안전·혁신·연대 5대 원칙에 따라 지정된 20대 과제 중 8대 핵심과제를 선정해 관리한다는 방침이다.

정부는 먼저 AI 혁신과 안전·신뢰 등 균형을 위한 법 제정을 연내에 마무리한다는 방침이다.

[이동인 기자 / 우제윤 기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]