KT, 책임 있는 AI 체계 강화…안전·신뢰 기반 AI 환경 구축

RAI 전담 조직 운영·글로벌 최고 등급 획득…AI 윤리 전사 내재화

[아이뉴스24 서효빈 기자] KT는 AI 기술 고도화와 함께 안전성과 신뢰를 전제로 한 '책임 있는 AI(RAI)' 체계를 지속 강화한다고 21일 밝혔다.

KT 사옥 전경. [사진=KT]

AI가 목표를 이해하고 스스로 판단해 과업을 수행하는 '에이전틱 AI'로 진화하면서 의사결정과 실행 과정에 직접 관여하는 영역이 확대되고 있다. 이에 따라 산업 전반에서는 기술 혁신에 대한 기대와 함께 AI 안전성과 신뢰성 확보에 대한 요구도 커지고 있다. KT는 AI 윤리를 기업 컴플라이언스를 넘어 AICT 중심 경영의 핵심 가치로 설정하고 전사적 역량을 결집해 왔다.

KT는 2024년 책임감 있는 AI 센터(RAIC)를 신설하고 국내 통신사 중 처음으로 최고책임자인 CRAIO를 임명했다. 자체 AI 윤리 원칙 'ASTRI'를 제정해 AI 기획·개발·운영·활용 전 과정에 △책임성 △지속가능성 △투명성 △신뢰성 △포용성 등 5대 원칙을 적용하고 있다. 매년 'KT 책임감 있는 AI 리포트'를 발간해 AI 윤리 강화 활동과 성과도 공개하고 있다.

2025년 12월 발간한 리포트에는 자체 개발 AI 모델의 사회적 영향·안전성 평가 프로세스와 AI 가드레일(SafetyGuard)을 상세히 담아 RAI 오픈소스 커뮤니티에 기여한 내용이 포함됐다. RAI 교육 확산 등 책임 있는 AI 프레임워크 기반 주요 실천 사례도 소개됐다.

KT는 외부 전문가로 구성된 'KT 책임 있는 AI 자문위원회'를 운영하며 정부·산업계와 AI 제도 논의에 참여하고 있다. 계열사와 협력사를 포함한 전 직원 대상 AI 윤리 교육을 필수 과정으로 운영하며 책임 있는 AI 문화 확산에도 나서고 있다.

기술 측면에서는 국내외 AI 리스크 관리 체계를 검토해 자체 AI 안전성 기준을 수립했다. 2025년 10월에는 AI 리스크 식별·평가·완화를 위한 '책임있는 AI 기술보고서'를 발간해 개발부터 운영까지 전주기적 위험 관리 체계를 제시했다.

AI 모델의 유해 응답을 실시간 차단하는 AI 가드레일은 2025년 9월 허깅페이스 플랫폼에 공개됐다. 해당 기술은 한국어 AI 모델 윤리 응답 품질 평가 벤치마크 'Kor Ethical QA' 기준 F1 스코어 97점을 기록했다.

이러한 노력의 결과로 KT가 자체 개발한 AI 모델 '믿:음 K 2.0 Base'는 국내에서 처음으로 한국정보통신기술협회(TTA)로부터 '인공지능 신뢰성 인증 2.0(CAT 2.0)'을 획득했다. 국제 표준 기반으로 고도화된 인증 체계를 적용한 첫 사례라는 점에서도 의미가 있다.

KT의 책임 있는 AI 체계는 글로벌 무대에서도 성과를 냈다. 세계이동통신사업자연합회(GSMA)가 평가하는 RAI 성숙도에서 KT는 2025년 최고 등급인 'Advanced'를 획득해 국내 이동통신사 중 처음으로 글로벌 모범 사례로 소개됐다.

KT는 성능 중심 AI를 넘어 믿을 수 있고 바로 활용 가능한 AI를 통해 기업과 공공 고객이 안심하고 AI 전환을 추진할 수 있도록 지원할 방침이다. 배순민 KT CRAIO 상무는 "신뢰할 수 있는 AI 기술을 기반으로 국내 AI 산업의 건강한 성장과 이용자 신뢰 확보에 기여하겠다"고 말했다.

/서효빈 기자(x40805@inews24.com)

[ⓒ 아이뉴스24 무단전재 및 재배포 금지]