카카오, 유엔 회의서 'AI-이용자 건강한 상호작용 윤리' 발표

CA협의체, 'UN 기업과 인권 포럼'서 발표

[서울=뉴시스] 허진화 카카오 그룹기술윤리팀 프로젝트리더, 아쉬토쉬 샤다 마이크로소프트 시니어 디렉터, 일로이자 마사로 인터넷랩 디렉터 등이 지난 25일 스위스 제네바에서 열린 '유엔(UN) 기업과 인권 포럼'에 참석했다. (사진=카카오 제공) 2024.11.26. photo@newsis.com *재판매 및 DB 금지

[서울=뉴시스]윤정민 기자 = 카카오가 지난 25일 스위스 제네바에서 열린 '유엔(UN) 기업과 인권 포럼'에 참석해 인공지능(AI)과 이용자 간 건강한 상호작용을 위한 윤리를 발표했다고 26일 밝혔다.

이 포럼은 UN 산하 인권최고대표사무소가 주최하는 행사다. UN 기업과 인권 이행지침(UNGP) 실행을 강화하기 위해 매년 개최하는 글로벌 포럼이다.

각국의 인터넷·IT 전문가 등 약 4000명이 참석했다. 카카오는 첫날 첫 번째 세션인 'AI 분야의 책임있는 비즈니스 행동'에 참여했다.

발표를 맡은 하진화 카카오 CA협의체 ESG위원회 그룹기술윤리팀 프로젝트리더는 카카오가 기술기업으로서 이용자의 인권 보호를 위한 노력을 소개했다. 특히 카카오 AI 윤리에 새롭게 추가된 조항을 발표하고 변화하는 기술과 사회의 흐름에 발맞추기 위한 활동을 국제 사회와 공유했다.

신규 조항은 이용자의 주체성으로 인간이 AI에 과도하게 의존하는 것을 경계하고 신체·정신·사회적 안전을 위협하는 사용이 일어나지 않도록 노력한다는 내용을 담고 있다. 이는 한국인공지능법학회와 협의를 기반으로 결정했다.

카카오는 지난 2018년 1월 국내 기업 중 최초로 알고리즘 윤리헌장을 발표한 데 이어, 2019년 8월 기술의 포용성, 2020년 7월 아동과 청소년에 대한 보호, 2022년 5월 프라이버시 보호 등 총 세 차례에 걸쳐 신규 조항을 추가하는 개정작업을 거쳤다.

2022년 7월에는 카카오와 주요 계열사가 참여한 '공동체 기술윤리 위원회'를 설립했다. 지난해 3월 공동체 기술윤리 위원회는 기존 알고리즘 윤리헌장을 전면 개정해 '카카오 그룹의 책임있는 AI를 위한 가이드라인'이라는 그룹 AI 윤리 원칙을 수립했다.

AI 윤리 원칙은 이용자의 주체성이라는 이번 조항을 비롯해 포용성, 투명성, 프라이버시, 이용자 보호 등 총 10개의 원칙으로 이뤄져 있다.

신규 조항을 함께 수립한 변순용 서울교육대 윤리교육학과 교수(한국인공지능윤리학회장)는 "이용자의 주체성과 안전성을 강조하는 새로운 조항은 AI 기술에 기반한 서비스에서 발생할 수 있는 AI 과의존과 과몰입의 문제를 해소할 수 있는 중요한 대응책이 될 것"이라며 "AI 윤리를 강화하려는 카카오의 이러한 노력은 AI 분야의 리더로서 수행하는 사회적 책임의 실천으로서 AI 서비스 분야에서 중요한 방향타의 역할을 할 것"이라고 말했다.

이상호 카카오 그룹 기술윤리 소위원회 리더는 "카카오의 AI 기반 기술과 서비스가 보다 안전하고 포용적이며 믿을 수 있는 미래를 만들어 나가도록 정책을 가다듬고 적용하는 데에 세심한 노력을 기울일 것"이라고 밝혔다.

☞공감언론 뉴시스 alpaca@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개