국내 첫 AI 안전성 평가 받은 카카오...“글로벌 대비 높은 안전성”

메타·미스트랄AI 모델과 응답 안전성 비교
과기정통부, 국내외 AI 대상으로 평가 추진
내년 1월 ‘AI기본법’ 시행 후 본격 확대 전망

카카오의 인공지능(AI) 언어 모델 ‘카나나’ 개요 [사진 = 카카오]

카카오의 인공지능(AI) 모델 ‘카나나(Kanana)’가 국내 첫 AI 안전성 평가에서 일부 해외 모델보다 높은 안전성을 보인 것으로 나타났다.

과학기술정보통신부는 인공지능안전연구소, 한국정보통신기술협회(TTA)와 협력해 카카오의 AI 모델에 대한 안전성 평가를 완료했다고 29일 밝혔다. 국내 최초로 진행된 AI 안전성 평가다.

이번 평가는 내년 1월 시행 예정인 ‘AI기본법’을 앞두고 정부가 기업의 고성능 AI 모델에 대한 안전성 확보를 지원하기 위해 진행됐다. AI기본법이 시행되면 고성능 AI로 분류되는 모델들은 안전성 확보 의무가 부과된다.

이번 평가 대상은 카카오의 ‘카나나 에센스 1.5 9.8B’ 모델로, 카카오의 모델 라인업 중 중간 정도 크기의 모델로 분류된다. 카카오는 국내 AI 안전 컨소시엄에 참여 중인 기업으로서 협의를 통해 평가를 진행한 것으로 파악된다.

검증 과정에는 TTA와 카이스트 연구팀이 개발한 ‘AssurAI’ 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 활용됐다. 데이터셋에 있는 질문을 넣었을 때 AI 모델이 어떠한 응답을 내놓는지를 보고 평가하는 방식이다.

평가단은 폭력, 차별적 표현 등 일반적인 위험 요소뿐만 아니라 무기, 보안 등 악용 가능성이 높은 시나리오까지 적용해 모델을 점검했다. 평가 결과 카나나는 유사한 규모의 글로벌 모델인 메타의 ‘라마 3.1’, 미스트랄의 ‘미스트랄 0.3’과 비교해 높은 안전성을 확보한 것으로 확인됐다.

과기정통부는 내년 1월 예정된 독자 AI 파운데이션 모델 프로젝트 1차 단계 평가에도 안전성 평가를 적용하고, 국내외 AI 기업과 협력해 다른 모델 대상으로도 평가를 확대한다는 계획이다.

김경만 과기정통부 인공지능정책실장은 “세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례”라고 설명했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]