아마존 촉발 AI 데이터 편향성에…IBM, 오픈스케일 해법 내놔

IBM이 인공지능(AI) 데이터 편향성을 제어할 수 있는 해법으로 'AI 오픈스케일'을 제시했다.

아마존은 2014년부터 지원자 이력서를 검토해 인재를 가려내는 연구를 했다. 채용 시스템에서 여성을 차별하는 문제가 발견됐다. AI 알고리즘 데이터 편향성이 원인으로 지목돼 AI는 신뢰성에 타격을 입었다.

ⓒ게티이미지뱅크

IBM은 편향된 데이터에 근거해 치우친 결과를 검증하고 바로잡을 수 있는 개방형 기술 플랫폼 'AI 오픈스케일'을 내놨다. AI가 적용된 시스템이나 운용 환경에 관계없이 AI가 도출한 의사결정 과정을 설명하고 투명하게 관리하며 AI 편향성을 탐지한다.

AI 신뢰성 논란은 알고리즘 데이터 처리 과정이 블랙박스와 같은 '깜깜이' 방식인 탓이다. 개발자도 전후사정을 쉽게 파악하기 어렵다. 편향성을 바로잡지 않으면 경영자가 잘못된 판단을 하거나 기업이 윤리적인 문제에 봉착한다.

미국 국방성 방위고등연구계획국(DARPA)은 지난해부터 '설명 가능한 AI' 프로젝트를 추진했다. AI가 어떤 과정을 거쳐 인사이트를 제안하는지 과정을 확인한다. AI 데이터처리 과정 투명성과 인사이트 신뢰성을 동시에 높여 AI를 제대로 활용하는 환경을 조성한다.

기업도 이 같은 방식을 도입하면 AI가 도출한 결과를 명확히 이해하고 비윤리적이거나 잘못된 결과를 제시했을 때 바로잡을 수 있다. 기업이 AI를 도입하는 것은 쉬운 투자가 아니다. 자체 기술과 전문 인력 부재 때문이다.

인공지능(AI) 라이프사이클 편향 완화 도식. IBM 제공

IBM기업가치연구소가 최근 세계 임원 5000명을 대상으로 실시한 설문조사에 따르면 기업 63%는 자체 기술을 보유하지 않아 AI 도입을 망설인다고 답했다. 복잡하고 어려운 기술인 AI를 실무에서 담당할 내부 인력이 없기 때문에 도입을 꺼려한다.

IBM은 편향된 데이터에 근거해 치우친 결과를 검증하고 바로잡을 수 있는 'AI 오픈스케일'을 대안으로 제시했다. AI가 필요한 기업은 IBM 기술 지원으로 문제를 해결한다.

오픈스케일은 AI가 도출해 낸 의사결정 과정을 설명하고 투명하게 관리한다. AI 편향성을 탐지한다. AI 모델이 적용된 시스템이나 운용 환경에 관계없이 활용할 수 있다. 오픈커뮤니티에 공개돼 AI 전문가가 없는 기업도 쉽게 사용한다.

기업은 고객 만족도 향상, 고객 유지, 비용 절감 등을 위해 AI 도입이 필요한 상황이다. 산업 측면에서도 경제 성장을 위해 AI는 중요 역할을 맡을 가능성이 크다. 글로벌 컨설팅 회사 액센츄어는 16개 산업군에 AI가 탑재되는 2035년이 되면 기업 평균 수익률이 이전 대비 38% 늘어나고 주요 경제권역에서는 14조달러 가치가 창출될 것이라고 전망했다.

장화진 한국IBM 대표는 “AI를 실제 비즈니스에 활용할 때 가장 중요한 것은 얼마나 정제된 데이터를 확보하고 이를 기반으로 훈련시킬 수 있는지”라며 “활용 가치가 높은 데이터 수집은 말처럼 쉽지 않기 때문에 데이터 처리 과정을 투명하게 들여다보고, AI 결과물을 비판적 관점에서 분석하려는 노력이 필요하다”고 강조했다.

박종진기자 truth@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]