[IT] "제2 이루다 막자"…AI윤리기준 서두르는 IT업계

인공지능(AI) 챗봇 '이루다'가 성차별 발언과 개인 정보 유출 의혹 등으로 서비스를 중단하면서 AI 윤리에 대한 관심이 커지고 있다.

일반 고객을 대상으로 한 AI 상품과 서비스가 늘고 있지만 AI 윤리 기준을 공개한 국내 기업은 드물다. 제2의 이루다 사태를 방지하려면 AI 윤리 기준을 서둘러 마련해야 한다는 지적이 나오고 있다.

정보기술(IT) 업계에 따르면 SK텔레콤은 AI 윤리 기준 만들기에 착수했다. SK텔레콤은 올해 AI를 자사 모든 상품과 서비스에 적극 도입하기로 했다. 이를 통해 빅테크 기업으로 도약을 목표로 하고 있다. 이에 걸맞게 더 구체적인 AI 윤리 기준을 세우겠다는 계획이다. KT도 여러 부서와 협업해 AI 윤리 기준을 만들고 있다. 내부 기준이 있지만 이를 더 발전시키고 있는 것이다. 카카오와 삼성전자는 AI 윤리 가이드라인을 발표했다.

IT 업계 관계자는 "국내에서 AI 윤리 논의는 시작 단계"라며 "AI가 화두로 떠오르면서 곳곳에 적용되고 있지만 실제 AI 윤리 기준을 공개한 국내 기업은 손에 꼽을 정도"라고 말했다.

글로벌 기업들은 AI 윤리 기준을 대외적으로 공표하고 있다. 구글은 2018년 △사회적 유익성 △불공평한 바이어스 방지 △안전성 확보를 염두에 둔 개발과 실험 △설명 책임 △프라이버시 원칙 적용 △과학적 탁월성의 탐구 △기본 이념에 따른 기술 제공 등 7가지 AI 윤리 원칙을 세웠다. 마이크로소프트(MS)도 AI 기본 원칙을 세우고 AI윤리위원회를 발족했다.

IBM은 AI 접근법과 원칙을 자사 홈페이지에 공개하고 있다. 최근 열린 세계 최대 IT 전시회 CES 2021에서도 AI 윤리가 화두였다. 독일 자동차부품 업체 보쉬는 "AI를 산업에 적용하려면 AI에 대한 신뢰가 전제가 돼야 한다"며 "사람이 항상 AI를 제어할 수 있다는 기본 개념을 토대로 AI 윤리 기준을 마련해 실천하고 있다"고 소개했다.

이런 일련의 자발적인 노력은 과거 AI 논란들이 발단이 됐다. MS는 2016년 AI 챗봇 '테이(Tay)'가 사용자들이 인종·성차별 발언을 학습시키는 바람에 혐오 발언을 쏟아냈고 운영을 중단했다. 2018년 아마존은 AI 면접 시스템에 여성과 인종차별 등 문제가 불거지면서 개발을 중단했다. 2019년엔 애플이 대형 투자은행 골드만삭스와 출시한 신용카드인 애플카드의 신용 한도 알고리즘에 남성을 우대하는 차별이 있다는 지적이 제기돼 미 금융당국이 조사에 나섰다.

유럽에선 AI 윤리를 더 발전시켜 법제화하려는 움직임이 나타나고 있다. 외신을 종합하면 유럽연합(EU)의 입법부인 유럽의회는 작년 10월 법제화를 추진하기 위해 AI의 윤리·책임·지식재산에 관한 제안을 채택했다.

학습 능력을 갖는 AI를 사람이 감시할 수 있도록 설계하고, 위험에 따라 자동차처럼 보험에 가입을 의무화하는 내용 등이 포함될 전망이다.

[임영신 기자]

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]