슈어소프트테크, AI 모델 검증 자동화 도구 '베리파이-엠(VERIFAI-M)' 내놨다

[사진= 게티이미지뱅크 제공]

소프트웨어(SW) 테스팅 자동화 전문기업 슈어소프트테크가 인공지능(AI) 모델 검증 도구 '베리파이-엠(VERIFAI-M)'을 출시했다.

VERIFAI-M은 'Verify(검증하다)'와 'AI 모델(Model)' 합성어다. AI 모델 신뢰성과 안전성을 자동으로 검증해 표준화된 결과를 제공한다. AI 모델 취약점을 발견하고 보완을 돕는다.

주요 기능은 크게 세 가지다. 먼저 의도적으로 잘못된 정보를 포함한 데이터를 사용해 AI 모델이 얼마나 정확하게 작동하는지 테스트한다. 예를 들어 AI가 승용차 사진을 버스로 잘못 분류하지 않고 올바르게 승용차로 인식하는지를 확인한다.

또 ISO/IEC TS 4213 등 국제 표준에 부합하는지 객관적으로 평가한다.

아울러 입력한 데이터에 대해 AI 모델의 뉴런이 얼마나 활성화되는지 측정한다. 뉴런은 사람의 뇌처럼 AI가 정보를 처리하는 작은 단위다. AI가 학습하고 판단하는데 중요 역할을 한다. 뉴런 활성화 영역이 넓을수록 AI가 다양한 상황에서 올바른 결정과 판단을 내릴 수 있다.

슈어소프트테크는 경북하이브리드부품연구원의 '제조 데이터 모니터링 및 고장 예지 보전 솔루션' 사업에 참여하며 VERIFAI-M 공급을 체결했다. 모델 검증과 데이터 수집, 분석, 시각화를 제공하는 통합 솔루션을 물류 핵심 부품사에 제공하는 사업이다. 핵심 도구로 VERIFAI-M을 활용한다.

AI 모델 신뢰성은 갈수록 중요해지고 있다. 최근 주요국은 급속한 AI 기술 발전과 확산에 맞춰 관리와 규제를 위한 범정부 차원 대응 전략을 마련하고 있다.

미국은 2021년 출범한 '국가 AI 이니셔티브 사무국'을 통해 관련 정책을 총괄한다. 유럽연합은 'AI 규제법' 초안을 발표해 AI 시스템의 법적 규제를 도입했다. 우리나라는 'AI 기술 안전성 평가 기준'을 발표하고 올해 'AI 신뢰성 검증센터'를 설립했다. 오픈AI, 구글 등 글로벌 빅테크는 개인정보보호와 결과물 검·인증을 강화해 AI 기술 신뢰성을 높이고 있다.

오승욱 슈어소프트테크 최고기술책임자(CTO)는 “VERIFAI-M을 시작으로 신뢰할 수 있는 AI를 위한 검증 기술을 지속 개발해 사업 역량을 강화할 계획”이라며 “기존 검증 시장으로 AI 도입을 적극 추진하고 있다”고 말했다.

류태웅 기자 bigheroryu@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]