영국, AI 모델용 보안 평가 플랫폼 '인스펙트' 공개

[AI리포터]

영국 인공지능(AI) 안전 연구소가 AI 모델 보안 평가 플랫폼 '인스펙트'(Inspect)를 발표했다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 영국 인공지능(AI) 안전 연구소가 AI 모델 보안 평가 플랫폼 '인스펙트'(Inspect)를 발표했다.

13일 대만 IT홈에 따르면 인스펙트는 AI 안전 연구소에서 개발한 대규모 언어 모델 평가 프레임워크로, 오픈 소스로 공개돼 있어 AI 커뮤니티에서 무료로 사용할 수 있다.

인스펙트는 데이터셋, 솔버, 평가자라는 3가지 주요 구성 요소를 갖춘 소프트웨어 라이브러리다. 각 모델의 특정 기능을 평가하고 핵심 지식, 추론 능력, 자율성 등의 점수를 매길 수 있다.

또한 이 플랫폼은 확장성을 띄고 있어 전 세계 AI 커뮤니티가 협력해 AI 평가 능력을 개발하는 데 사용될 수 있다는 설명이다.

인스펙트는 지난해 11월 영국 정부가 설립한 세계 최초의 국가 지원 AI 보안 테스트 플랫폼이기도 하다. 편향, 잘못된 정보 또는 인간의 통제력 상실과 같은 위험을 탐색한다.

이안 호가스(Ian Hogarth) AI 보안 연구소 회장은 " AI의 구조적 과제 중 하나는 국경 및 기관 간 조정이 필요하다는 것이며, 오픈 소스를 전제로 학계, 스타트업, 대기업, 정부 및 시민 사회가 모두 더 큰 역할을 수행하기 위해 더 광범위하게 협력할 수 있다"고 전했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>