 |
30일 서울 강남구 코엑스에서 열린 인공지능 페스타 2025에서 참관객들이 카카오 고성능 AI 카나나를 체험하고 있다./사진=뉴시스 |
카카오의 AI 모델 '카나나'(Kanana)가 국내 첫 인공지능(AI) 안전성 평가를 받았다.
29일 과학기술정보통신부는 AI안전연구소, 한국정보통신기술협회(TTA)와 카카오의 '카나나 Essence 1.5'를 대상으로 AI 안전성 평가를 실시했다고 밝혔다. AI 위험 식별·평가해 AI 시스템 안전성을 확보하는 수단 중 하나로, 과기정통부는 내년 1월 AI기본법 시행을 앞두고 기업의 고성능 AI 모델에 대한 안전성 확보 컨설팅을 지원하고 있다.
이번 평가에는 TTA·카이스트(최호진 교수 연구팀)가 지난달 18일 공개한 AssurAI 데이터셋과 AI안전연구소의 고위험 분야 평가 데이터셋이 사용됐다. 폭력·차별적 표현 등 일반적인 위험 요소부터 무기·보안 등 오남용 가능성이 높은 시나리오까지 폭넓게 점검한 결과 카나나는 라마(Llama) 3.1, 미스트랄(Mistral) 0.3 등 유사 규모의 글로벌 모델 대비 높은 안전성을 확보했다는 설명이다. 특히 종합 평점은 카나나가 3.61점으로, 라마(3.13점)·미스트랄(3.04점)보다 높았다.
AssurAI는 한국어를 기반으로 35개 위험 영역을 평가하도록 설계된 안전성 벤치마크다. 향후 AI안전연구소가 구축한 고위험 분야 데이터셋과 함께 국제 AI안전연구소 네트워크 및 국제표준화(ISO/IEC JTC 1/SC 42 등) 반영을 추진해 글로벌 정합성을 제고할 예정이다.
과기정통부는 안전성 평가를 내년 독자 AI 파운데이션 모델 프로젝트 1차 단계평가에 적용하고, 국내외 AI 기업과 협력해 평가 대상을 확대할 예정이다.
김경만 과기정통부 인공지능정책실장은 "세계적으로 AI 안전에 대한 논의가 규제보다는 검증과 구현이 강조되는 상황에서 이번 평가는 국내 AI 모델의 안전성 경쟁력을 증명한 사례"라며 "국내 AI 모델이 글로벌 AI 안전성 리더십을 주도하도록 지원하겠다"고 말했다.
윤지혜 기자 yoonjie@mt.co.kr
Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.
이 기사의 카테고리는 언론사의 분류를 따릅니다.