김상희, AI 차별·혐오 표현 막는 '이루다 방지법' 발의

인공지능 챗봇 '이루다'

[서울=뉴시스] 이진영 기자 = 김상희 국회부의장(과학기술정보방송통신위원회, 경기 부천병)은 인공지능(AI)의 비윤리적인 학습과 활용을 막고 급격한 기술 발전에 따른 부작용을 방지하기 위한 '이루다 방지법'(지능정보화기본법 개정안)을 대표 발의했다고 17일 밝혔다.

김상희 부의장이 발의한 개정안에는 과학기술정보통신부가 '지능정보사회윤리준칙'을 제정하고 인공지능의 윤리적 검증에 필요한 인권 보장, 프라이버시 보호, 다양성 존중, 공공성과 책임성, 안전성 등의 내용을 담아 보급 및 확산시켜야 한다는 내용을 담았다.

이 법은 올 초 20대 여대생을 모방한 인공지능 챗봇 '이루다'가 무분별한 데이터 학습으로 여성과 소수자에 대한 차별·혐오적 메시지를 내거나 개인정보 활용에 문제를 일으킨 것을 계기로 마련됐다.

김 부의장은 자율주행과 빅데이터가 산업의 주류로 떠오를수록 인공지능의 역할이 커져 이를 적절히 제어하기 위한 구체적이고 합리적인 인공지능 개발의 가이드라인이 필요하다 설명했다.

또 김 부의장은 과기부가 2020년 12월 ‘인공지능 윤리기준’을 발표했지만, 법령이나 규칙이 아닌 도덕적 규범에 불과해 실제 인공지능 개발에 적용하기에 추상적이고 선언적이라 구체적이고 실효적인 가이드가 필요하다고 지적했다.

김상희 부의장은 "최근 문제가 됐던 이루다의 이용자 85%는 10대인 것으로 나타났다. 편향적인 인공지능이 아동·청소년에게 혐오와 차별 등 악영향을 끼칠 수 있다"며 "하루빨리 개정안이 통과돼 제2의 이루다 사태를 방지하고 인공지능의 윤리·신뢰성을 확보하길 기대한다"고 말했다.

☞공감언론 뉴시스 mint@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개
▶ 뉴시스 빅데이터 MSI 주가시세표 바로가기

<저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>