'오픈AI·MS도 참여' 서울 AI 기업 서약 발표…"생성AI 콘텐츠에 워터마크"

이종호 장관 "책임있는 AI 개발과 사용 위해 AI 안전 연구소와 협력"

한덕수 국무총리 "AI 안전, 취약한 계층의 사람들에게 위협 되지 않아야"

22일 서울 성북구 한국과학기술연구원(KIST)에서 열린 2024 인공지능(AI) 글로벌 포럼 개회식에서 주요 참가 기업 관계자들이 서울 인공지능(AI) 기업 서약을 하며 이종호 과학기술정보통신부 장관의 발언을 듣고 있다. 2024.5.22/뉴스1 ⓒ News1 이승배 기자

(서울=뉴스1) 손엄지 기자 = 오픈AI, 구글, 삼성전자(005930), 네이버(035420) 등 국내외 인공지능(AI) 기업 14곳이 서울에서 만났다. 책임있는 AI 개발과 사용을 위한 서약식에 참여하기 위해서다.

22일 서울 성북구 한국과학기술연구원(KIST)에서 'AI 글로벌 포럼' 포럼이 열렸다. 이날 포럼의 성과로 '서울 AI 기업 서약'을 발표했다.

서약식에는 오픈AI, 구글, 마이크로소프트, 앤트로픽, IBM, 세일즈포스, 코히어 등 해외 기업과 네이버, 카카오(035720), SKT, KT(030200), LG AI 연구원, 삼성전자 등 국내 기업 총 14곳이 참여했다.

서약식 발표를 맡은 이종호 과학기술정보통신부 장관은 "서울 AI 기업 서약은 국내외 기술 기업과 함께 AI 책임 개발, 이익 공유를 위해 기업이 추구할 방향을 담은 자발적 약속"이라면서 "책임있는 AI 개발과 사용을 위해 AI 안전 연구소와 협력을 강화할 것"이라고 말했다.

이어 "워터마크 등 AI 생성 콘텐츠를 식별할 수 있도록 조치하고, 국제 표준 개발을 위한 협력을 강화할 것"이라고 덧붙였다.

아울러 "사회적 취약 계층을 위한 AI 서비스를 출시하고 과제를 해결하기 위한 AI 설루션을 개발하며 다양성과 포용성을 장려할 것을 약속한다"며 선언문을 마쳤다.

한덕수 국무총리가 22일 서울 성북구 한국과학기술연구원(KIST)에서 열린 2024 인공지능(AI) 글로벌 포럼 개회식에서 축사하고 있다. 2024.5.22/뉴스1 ⓒ News1 이승배 기자

앞서 진행한 축사에서 한덕수 국무총리는 "AI 서울 정상회담에 참석한 지도자들이 어젯밤 안전하고 혁신적이며 포용적인 AI 서울 선언문을 발표했다는 좋은 소식을 전하고자 한다"면서 "서울 선언이 새로운 국제 AI 거버넌스에 포괄적 비전을 제공하는 중요성을 지니게 될 것"이라고 말했다.

또 "AI 안전은 가장 취약한 계층의 사람들이 AI라는 신기술로 인한 위협과 도전과제에 대응할 수 있도록 해야 한다"면서 "어려운 안전 문제를 효과적으로 해결하고, 접근성을 확대하기 위해서는 기술 혁신이 필수적"이라고 강조했다.

이어 "한국은 지난해 '디지털 권리장전'을 채택한 후 한-아세안 디지털 혁신 플래그십 프로젝트를 통해 아세안 국가에 포괄적인 디지털 전환을 지원하고 있다"면서 "대한민국 정부는 국내외 파트너들과 협력해 AI 기술 분야에서 이런 가치와 원칙을 지속 발전할 것"이라고 덧붙였다.

이날 AI 글로벌 포럼 개회식에서는 AI 분야의 세계적 석학 앤드류 응 미국 스탠퍼드대 교수와 로봇 회사 보스턴 다이내믹스의 창업자 마크 레이버트의 기조연설도 진행했다.

앤드류 응 교수는 "생생 AI는 교육, 비즈니스 법률 등 여러 산업 분야에 지대한 영향을 주고 특히 고임금 근로자들이 AI 자동화의 영향을 많이 받을 것"이라면서 "기업들이 안전하고 책임 있게 쓸 수 있도록 근로자들을 교육해야 한다"고 말했다.

이어 "정부는 AI 기술 자체가 아니라 애플리케이션(앱)을 규제해야 한다"면서 "예를 들어 AI로 의료기기, 정치 딥페이크 등을 만들 수 있는데 AI 기술 자체가 아니라 어떤 앱이 좋고 나쁜지를 구분해 규제해야 한다"고 설명했다.

마크 레이버트 박사는 "앞으로 우리는 사람을 훈련하는 거처럼 로봇을 훈련할 수 있는 날을 기대하고 있다"면서 "인류의 여러 문제를 로봇과 AI를 통해 해결할 수 있다"고 했다.

이어 "아직은 공상과학 소설 같지만 몇 년 지나면 로봇이 스스로 진단하고 스스로 수정할 수 있는 날이 올 것"이라면서 "로봇과 함께 번영된 사회를 가지게 될 것을 기대한다"고 말했다.

eom@news1.kr

Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.