KT, '책임 있는 AI'로 승부수... "성능보다 안전·신뢰가 먼저"

"유해 답변 실시간 차단"...국내 최초 AI 신뢰성 인증 획득

KT RAI 리포트[사진=KT]

[이코노믹데일리] KT가 인공지능(AI) 기술의 급격한 발전 속에서 '성능'보다 '안전'과 '신뢰'를 우선하는 '책임 있는 AI(Responsible AI·RAI)' 체계 강화에 전사적 역량을 집중하고 있다.

KT는 21일 AI 기술 고도화와 함께 기업과 사회가 안심하고 활용할 수 있는 AI 환경 구축에 힘을 쏟고 있다고 밝혔다. 이는 최근 AI가 단순히 콘텐츠를 생성하는 도구를 넘어 목표를 이해하고 스스로 판단해 과업을 수행하는 '에이전틱 AI(Agentic AI)'로 진화함에 따라 기술적 안전성 확보가 산업계의 필수 생존 조건으로 떠올랐기 때문이다.

KT는 이러한 흐름에 선제적으로 대응하기 위해 지난 2024년 전담 조직인 '책임감 있는 AI 센터(RAIC)'를 신설하고 국내 통신사 최초로 최고책임자인 CRAIO를 선임했다. 또한 책임성·지속가능성·투명성·신뢰성·포용성 등 5대 핵심 가치를 담은 자체 AI 윤리 원칙 'ASTRI(아스트리)'를 제정해 AI의 기획부터 개발 및 운영 전 과정에 적용하고 있다.

기술적인 성과도 가시화됐다. KT가 자체 개발한 초거대 AI 모델 '믿:음 K 2.0 Base'는 국내 최초로 한국정보통신기술협회(TTA)로부터 '인공지능 신뢰성 인증 2.0(CAT 2.0)'을 획득했다. 이는 AI 모델의 개발과 운영 과정에서 기업의 책임성과 신뢰성을 객관적으로 검증받았다는 점에서 의미가 크다.

실제 기술 현장 적용을 위한 안전장치도 마련했다. KT는 지난해 9월 AI 모델의 유해 응답을 실시간으로 차단하는 'AI 가드레일(SafetyGuard)'을 글로벌 오픈소스 플랫폼 허깅페이스에 공개했다. 이 기술은 한국어 AI 모델을 대상으로 한 윤리적 응답 품질 평가 벤치마크에서 F1 스코어 97점을 기록하며 탁월한 방어 능력을 입증했다. 또한 지난해 10월에는 AI 리스크 식별과 평가 및 완화를 위한 기술적 가이드라인을 담은 '책임 있는 AI 기술 보고서'를 발간해 업계에 공유했다.

KT는 이러한 노력과 성과를 집대성해 매년 '책임감 있는 AI 리포트'를 발간하고 있다. 지난해 12월 발행된 리포트에는 자체 개발한 AI 모델의 사회적 영향·안전성 평가 프로세스와 AI 가드레일 기술 상세 내용이 담겼다. 내부적으로는 계열사와 협력사를 포함한 전 직원을 대상으로 AI 윤리 교육을 필수 과정으로 운영하며 건전한 AI 문화 확산에 앞장서고 있다.

아울러 분야별 외부 전문가로 구성된 'KT 책임 있는 AI 자문위원회'를 운영하며 정부 및 산업계와 협력해 AI 관련 제도 수립 논의에도 적극 참여하고 있다. KT는 이러한 신뢰 기반을 바탕으로 국내 기업과 공공 고객이 안심하고 AI 전환(AX)을 추진할 수 있도록 지원할 방침이다.

배순민 KT CRAIO 상무는 "AI가 산업 전반의 의사결정에 관여하는 영역이 확대될수록 기술적 신뢰도 확보가 무엇보다 중요하다"며 "앞으로도 신뢰할 수 있는 AI 기술을 기반으로 국내 AI 산업의 건강한 성장과 이용자 보호에 기여하겠다"고 강조했다.
류청빛 기자 cbryu@economidaily.com

- Copyright ⓒ [이코노믹데일리 economidaily.com] 무단전재 배포금지 -