과기정통부, 생성형 AI 기업 방문…윤리의식 독려

첫 번째 현장 방문으로 업스테이지 찾아

박윤규 2차관 "신뢰성 확보, 산업 발전 전제조건"

[이데일리 김국배 기자] 과학기술정보통신부는 인공지능(AI) 서비스 기업의 AI 윤리·신뢰성 준수 현황을 점검하고 윤리의식을 확산하기 위해 산업 현장 방문을 시작한다고 15일 밝혔다.

과기정통부는 이날 첫 번째로 업스테이지를 방문해 생성형 AI의 문제점으로 지적되는 ‘환각’ 현상을 완화하기 위한 기업의 노력과 AI 윤리·신뢰성 확산 관련 애로사항에 대해 의견을 나눴다.

이활석 업스테이지 CTO(좌), 박윤규 과기정통부 제2차관(우) (사진=업스테이지)

이활석 업스테이지 최고기술책임자(CTO)는 “챗GPT 등 생성형 AI 시대가 열리며 AI 윤리·신뢰성에 관한 논의가 가속화되고 있다”며 “다양한 노력을 통해 기술 발전에 필수적인 윤리·신뢰성 확보를 위한 노력을 지속할 것”이라고 말했다.

박윤규 과기정통부 2차관은 “AI가 산업과 우리 일상 속으로 빠르게 확산되는 상황에서 기술 개발부터 활용까지 전 단계에서 윤리와 신뢰성을 확보하는 것이 산업 발전의 전제조건”이라며 “국내 기업이 자사 제품·서비스에 AI 윤리·신뢰성을 선제적으로 확보할 수 있도록 산업 현장에 방문해 필요 사항을 경청하고 AI 윤리·신뢰성 확산에 앞장서 나가겠다”고 했다.

과기정통부는 생성형 AI 대표 기업 방문을 시작으로 의료, 제조, 교육, 교통·운송, 금융 등 분야별 AI 기업을 순차적으로 찾을 계획이다. 앞서 과기정통부는 지난 2020년 12월 OECD, 유럽연합(EU) 등의 AI 권고안을 반영한 AI 윤리 기준을 수립한 후 작년 2월 윤리 기준을 자율적으로 점검할 수 있는 가이드라인을 마련한 바 있다.