[AI 안전성 평가] 'AISC'로 인공지능(AI)안전과 신뢰 증명 : zum 뉴스

AISC 로고.

인공지능(AI)과 소프트웨어(SW) 안전성을 보장하기 위한 국제 표준 기반 인증제도 'AISC(AI·SW 안전성 인증, Artificial Intelligence·Software Safety Certification)'가 도입됐다. 기술 신뢰성과 윤리성을 확보하고, 기업 글로벌 경쟁력을 강화하기 위해 마련된 AISC는 시행과 동시에 국내외 주요 AI 관련 기업들이 확보해야 할 핵심 인증으로 주목받고 있다.

AI는 자율주행차, 의료기기, 금융, 제조 등 다양한 분야에서 인간의 의사결정을 대체·지원하며 빠르게 확산 중이다. AI 확산에 따른 기술 의존성은 새로운 위험 요소도 낳고 있다. 알고리즘 결함, 편향된 데이터, 예측 불가능한 행동, 보안 취약점 등은 사용자의 인명과 재산 피해로 이어질 수 있다. 실제 자율주행차 사고나 딥페이크 사기, AI 해킹 공격 등은 이미 현실화 된 위협으로 평가된다.

이에 따라 국제 사회도 빠르게 진보하는 AI 기술에 대한 대응에 나섰다. 지난 2023년 영국 블레츨리에서 열린 'AI 안전 정상회의'에는 미국, 중국, 한국 등 28개국이 참여해 AI 실존 위험 대응과 국제 협력 필요성에 대해 합의했다.

미국도 보안과 안전을 위한 행정 명령을 발표한 상태다. 국제 표준협회인 ISO에서는 AI 기능안전 표준인 ISO/IEC TR 5469를 발표하고 있어 향후 미래 AI는 안전성이 확보된 상태에서만 발전할 것으로 예상된다.

우리나라는 지난해 12월 'AI 기본법'이 국회 본회의에서 의결됐다. 기본법에서는 고영향 AI·생성형 AI에 대한 안전·신뢰 기반 조성 조항도 담고 있다. AI 안전성, 신뢰성 검·인증, 영향평가 제도에 대한 정부의 지원 근거를 마련한 셈이다.

AISC 소개(인증제도 및 시험·검증) 자료.

◇글로벌 표준 기반 인증체계 'AISC'

AISC는 네덜란드 국제 인증기관 Kiwa, AI·SW 전문 검증기관이자 KOLAS 국제공인시험기관 AIWORKX, 그리고 한국정보산업연합회 FKII 등 3개 기관이 공동으로 추진하는 세계 최초 AI·SW 안전성 인증 제도다. 기관별로 한국정보산업연합회는 인증신청 접수, 인증서 발행, 관련 정책 대응 등과 관련된 업무 전만을 맡는다. Kiwa는 의뢰된 심사에 대한 신청서 검토, 시스템 심사 및 제품 인증 등과 관련된 업무 전반을 수행한다. AIWORKX는 의뢰된 시험에 대한 신청서 검토, 시험실시, 시험보고서 및 시험 성적서 작성 등과 관련된 업무 전반을 진행한다.

AISC는 기본적으로 ISO 5469, ISO/IEC 42001, ISO/IEC 25023 등을 근거로 한다. 기업이 개발·운영하는 AI와 SW의 기능적 안전성을 정량적으로 검증한다. 특히 안전성수준(AISL), 성능 수준(AIPL), 공정성수준(AIFL)을 종합적으로 평가할 수 있도록 국제 표준 및 검증 가이드를 기반으로 6종의 AI·SW 안전성 인증을 제공한다.

AISC 인증은 ISO 국제 인증과 같은 구조로 운영되며 AI 산업에서 '신뢰 표준'을 제시한다. 기업은 자사 제품의 안전성을 객관적으로 입증해 부가가치를 높이고, 소비자는 검증된 제품을 선택할 수 있다. 오작동으로 인한 소비자 불만과 리콜 비용을 줄이고 ESG 경영과 사회적 책임 수행에도 기여한다.

AISC 프로세스 설명.

이 기사의 카테고리는 언론사의 분류를 따릅니다.