빅테크 기업들, AI 윤리규범 두고 있나…카카오가 최초

‘이루다’가 불붙인 AI 윤리기준 법제화 논쟁

IT 기업들 자발적 AI 윤리기준 마련 움직임

[이데일리 노재웅 기자] AI(인공지능) 챗봇 ‘이루다’의 성희롱과 차별·혐오 논란이 AI 윤리기준 법제화 주장으로까지 번지고 있는 가운데, 국내 주요 정보통신(IT) 기업들은 이미 자발적으로 AI 윤리기준을 만들어 도입하거나 제정 작업에 돌입한 것으로 나타났다.

전문가들은 당장의 법제화보단 기업의 자발적인 윤리기준 마련을 더욱 독려함으로써 기술과 사회변화에 유연하게 대처할 수 있는 윤리 담론을 형성하는 게 먼저라고 입을 모은다.

사진=KT 제공

네이버도 2월 중 AI 윤리원칙 발표

12일 삼성전자(005930), 네이버(035420), 카카오(035720), SK텔레콤(017670), KT(030200) 등 AI 투자와 상용화에 앞장서고 있는 주요 IT 기업 5곳을 대상으로 조사한 결과 카카오와 삼성전자는 AI 윤리기준을 마련했고, 나머지 기업도 제정을 위한 작업을 진행 중인 것으로 확인됐다.

국내 기업 중 AI 기술 개발, 윤리에 관한 알고리즘 규범을 마련해 외부에 가장 처음 발표한 것은 카카오가 처음이다.

카카오는 2018년 1월 AI 기술의 지향점과 사회 계층 등에 관한 의도적 차별 방지, 데이터 수집 관리 원칙, 알고리즘의 설명 의무 등을 담은 AI 윤리 헌장을 마련해 도입 중이다.

이 헌장은 AI 기술의 목표를 ‘인류의 편익과 행복 추구’로 정했고, AI 데이터 분석을 통해 의도적으로 사회 약자를 차별하지 않도록 경계해야 한다고 명시했다.

또 사생활 침해 우려가 계속 제기되는 AI의 학습용 데이터(웹활동 기록, 음성 등)는 사회 윤리에 근거해 수집·분석·활용한다고 강조했다.

알고리즘은 특정 개인이나 세력에 의해 자의적으로 훼손되거나 왜곡되지 않도록 해야 하며, 기업의 경쟁력을 훼손하지 않는 범위 내에서 알고리즘의 내용을 대중에게 성실히 설명해 투명성을 보장하자는 원칙도 포함했다.

(그래픽= 문승용 기자)

“한 번의 명문화로 끝 아냐…계속 발전시켜야”

삼성전자는 2019년부터 AI 기술의 윤리적인 사용을 위한 AI 윤리원칙을 마련해 기술 개발과정에 적용하고 있다.

삼성전자가 밝힌 AI 윤리 핵심 원칙은 공정성과 투명성, 책임성 등 세 가지다. AI 윤리안에 대한 공감대를 형성하기 위해 국제 컨소시엄인 ‘PAI’에도 가입해 활동하고 있다.

이와 함께 추가적인 AI 윤리기준 발전을 위해서도 속도를 내고 있다. 지난해 12월 실리콘밸리 투자전문 자회사 삼성넥스트가 글로벌 AI 창립자들과 온라인을 통해 AI 윤리기준 정립을 위한 심층 토론회도 개최하는 등 기존 윤리원칙을 바탕으로 세부 윤리기준 마련 및 발전을 위해 계속 노력 중이다.

네이버는 서울대AI정책이니셔티브와 지난 2년 동안 AI 윤리기준 마련을 위한 조사를 진행했다. 현재 윤리기준 제정 작업은 마무리 단계이며, 내달 중 사내에 먼저 공유한 뒤 외부에 발표할 계획이다. 네이버 관계자는 “외부 의견을 반영하기 위해 꽤 오래 준비했다. 이번에 발표한 것이 끝이 아니라, 추후에도 계속 내재화를 하면서 윤리기준을 발전시켜나갈 것”이라고 전했다.

이밖에 각각 AI 스피커 ‘누구’와 ‘기가지니’를 운영 중인 SK텔레콤과 KT는 AI 윤리기준을 제정하진 않았지만, 별도의 모니터링과 필터링 작업을 통해 논란을 방지 중이다. 대화서비스 중 부적절한 질문은 필터링하고, 대화 학습 데이터는 담당자의 검수를 모두 거치는 식이다. 다만 이러한 검수 작업 역시 별도의 기준이나 체크리스트가 존재해야 추후 또 다른 논쟁을 방지할 수 있기 때문에, 자체적인 AI 윤리기준 제정을 위한 작업을 추가로 진행한다는 방침이다.

김경만 과기정통부 인공지능기반정책과장은 “대기업들이 마련한 AI 윤리기준이 각 산업 생태계에 속한 타 기업들의 본보기가 될 것”이라며 “이러한 AI 알고리즘 윤리기준은 ‘기준’이라기 보다는 ‘논의의 토대’라고 보는 것이 옳다. 기업들이 개발 단계나 상용화 단계에서 체크리스트를 수립해 대입하면서 얻는 데이터를 다시 얹고, 전문가 집단의 장이 열리는 등의 과정을 계속해서 반복하면서 윤리기준을 수정·발전시키는 방향으로 가야 한다”고 말했다.