업스테이지, '한미 ICT 정책 포럼'서 AI 윤리·신뢰성 강조

[디지털데일리 김보민 기자] 인공지능(AI) 스타트업 업스테이지는 미국 워싱턴 국무부에서 개최된 '한미 ICT 정책 포럼'에 한국 대표 기업으로 참여했다고 15일 밝혔다.

한미 ICT 정책 포럼은 과학기술정보통신부와 미 국무부 간 ICT 분야 협력을 증진하기 위해 열리는 협의체다.

제7차를 맞은 이번 포럼에는 미국 구글을 비롯해 각국의 대표 민간 AI 기업들이 참석했다.

업스테이지는 포럼 첫날인 12일 민관 세션 중 AI 윤리 및 신뢰성, 양자 과학기술 적용 등을 논의하는 ICT 신흥 세션에 참여했다.

김성훈 업스테이지 대표는 'AI 윤리/신뢰성 확보를 위한 국제적인 협력 방안과 업스테이지의 노력'을 주제 발표를 진행했다. 자사가 운영하는 데이터 수집 및 공유 플랫폼 '1T 클럽'을 소개하기도 했다.

김 대표는 양질의 데이터를 모으기 위해 콘텐츠 제공자와 수익을 공유하고, 이를 통해 AI가 만들어내는 결과물의 신뢰성과 윤리적 측면을 강화해야 한다고 강조했다. 1T 클럽을 통해 다양한 분야의 전문가들과 협력하고, 정부의 협력 또한 필요하다고 밝혔다.

이어 ▲사람 중심 ▲신뢰성 ▲공정성 ▲안전성 ▲보편성 등 다섯 가지 윤리 원칙에 기반해야 좋은 데이터를 모을 수 있다고 강조했다.

1T 클럽은 한국어 데이터 부족 문제를 해결하자는 취지로 추진되고 있다. 한국 문화 정서를 담아낼 수 있는 고품질 거대언어모델(LLM)을 개발하고, 이를 통해 국내 생성 AI 분야의 애플리케이션을 강화한다는 구상이다. 지난 8월부터 파트너사들의 참여 신청을 받고 있다.

김 대표는 "업스테이지는 AI의 사회적 책임과 가치를 실현하기 위해 노력하고, 다양한 파트너들과 협력하고자 한다"라고 말했다.

한편 김 대표는 13일 윤석열 대통령 주재 '대한민국 초거대 AI 도약' 회의에도 참석해 "대기업과 스타트업이 상생하는 생태계가 조성되면, 세계 1위를 차지한 AI 기술을 갖고 있는 업스테이지 같은 대표 기업들이 글로벌 경쟁에서 승산을 얻을 것"이라고 밝혔다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -