안전한 인공지능 국제협력…구글·MS 등 ‘서울 AI 기업 서약’ 발표

한덕수 국무총리가 22일 오전 서울 성북구 한국과학기술연구원(KIST)에서 열린 ‘AI 글로벌 포럼 개회식’ 에서 이종호 과학기술정보통신부 장관, 조태열 외교부 장관 및 참석자들과 기념촬영을 하고 있다. 한덕수 국무총리는 개회식 축사를 통해 “안전, 혁신, 포용은 인공지능 서울 정상회의와 글로벌 포럼의 주요 주제”라며 “이번 포럼을 통해 수렴한 국제사회 논의를 바탕으로 인공지능 글로벌 거버넌스 형성에 선도적으로 기여하는 노력을 이어나가겠다”고 밝혔다. 과학기술정보통신부 제공

구글, 마이크로소프트(MS), 오픈에이아이(OpenAI), 삼성전자, 네이버 등 국내외 주요 인공지능(AI) 관련 기업들이 ‘서울 AI 기업 서약’(Seoul AI Business Pledge)을 발표하고 안전하고 지속가능한 인공지능 개발을 약속했다. 인공지능 안전연구소 등 국가기관과 협력을 강화하고 인공지능이 만든 콘텐츠에 워터마크를 붙이는 등, 사람들이 믿을 수 있는 인공지능을 만들겠다는 선언이다.

삼성전자, 에스케이(SK)텔레콤, 케이티(KT), 엘지(LG) 에이아이 연구원, 네이버, 카카오 등 국내 기업과 오픈에이아이, 구글, 마이크로소프트, 앤스로픽, 아이비엠(IBM), 코히어, 세일즈포스 등 국외 기업 14곳은 22일 서울 성북구 한국과학기술연구원(KIST)에서 열린 ‘에이아이 글로벌 포럼’에서 ‘서울 에이아이 기업 서약’을 발표했다. 에이아이 글로벌 포럼은 21일 개막한 ‘인공지능 서울 정상회의’의 연계 행사다.

기업들이 자발적으로 맺은 이 서약엔 인공지능 기술의 책임 있는 개발과 활용을 위해 국내 인공지능 안전기관과의 협력을 강화하고, 국제 표준 개발을 위한 협력을 강화하겠다는 내용이 담겼다. 안전 프레임워크(처리구조) 모범 사례를 공유하고, 워터마크 등 인공지능이 생성한 이미지나 콘텐츠를 식별할 수 있도록 하는 기술적인 방법론을 개발하며, 민주주의를 위협하는 잘못된 정보에 인공지능이 생성한 콘텐츠가 쓰이는 일을 줄이도록 노력하겠다는 약속이다.

이번 인공지능 서울 정상회의가 영국에서 열린 1차 회의 때와 달리 ‘안전’ 외에 ‘혁신’과 ‘포용’을 새로운 과제로 제시한 만큼, 개발도상국이나 사회적 약자를 지원하겠다는 약속도 내놨다. ‘누구도 소외되지 않는 방식의 인공지능 서비스 개발’을 목표로, 사회적 약자를 포함한 국민들의 삶의 질을 향상시킬 수 있는 방식의 인공지능 서비스를 출시하고 개발도상국과 신흥 경제국 대학·연구실 등에 인공지능 자원 및 인프라를 지원하는 등의 국제적 노력에도 동참하기로 했다.

이번 서울 인공지능 기업 선언은 전날 ‘인공지능 서울 정상회의’에서 16개 기업·기관이 밝힌 ‘프런티어 에이아이 안전 약속’의 대중적인 확대 선상에 있다. ‘프런티어 에이아이 안전 약속’이 스스로 학습해 인간의 통제가 불가능한 고성능 첨단 인공지능을 개발할 때 기업이 위험성을 완화할 수 없다면 개발하지 않겠다는 내용이라면, ‘서울 인공지능 기업 선언’은 대중적인 인공지능 서비스의 안전한 활용 방안을 제시하고 국제 협력을 강화하는 데 방점을 뒀다.

이날 열린 서울 에이아이 글로벌 포럼 개회식에는 인공지능 분야의 세계적 석학인 앤드루 응 미국 스탠퍼드대 교수와 보스턴 다이내믹스의 창업자 마크 레이버트가 기조연설자로 참여했다. 그 외에도 제이슨 권 오픈에이아이 최고전략책임자(CSO), 나타샤 크램튼 마이크로소프트 인공지능 최고책임자(CRAIO), 톰 루 구글 딥마인드 부사장, 롭 셔먼 메타 최고 개인정보보호 책임자(CPO), 잭 클락 앤스로픽 공동창업자, 크리스티나 몽고메리 아이비엠 최고개인정보보호·신뢰책임자, 롭 셔먼 메타 부사장 및 부수석 개인정보보호 책임자, 사바스티안 나일스 세일스포스 최고법률책임자(CLO) 등이 한국을 찾았다.

정유경 기자 edge@hani.co.kr

▶▶권력에 타협하지 않는 언론, 한겨레 [후원하기]
▶▶한겨레 뉴스레터 모아보기▶▶[기획] 누구나 한번은 1인가구가 된다