카카오, UN회의서 그룹 AI 윤리원칙 소개…안전한 AI 생태계 만든다

카카오 CI. 카카오 제공

카카오가 UN 회의에서 AI와 이용자 간 건강한 상호작용을 위한 윤리원칙을 소개하는 등 안전하고 신뢰받을 수 있는 AI 생태계를 만들기 위한 노력을 강화하고 있다고 26일 밝혔다.

카카오는 지난 25일부터 3일간 스위스 제네바에서 UN 산하 인권최고대표사무소가 주최한 제13차 ‘UN 기업과 인권 포럼’에 참석했다.

‘UN 기업과 인권 포럼’은 UN 기업과 인권 이행지침(UNGP)의 실행을 강화하기 위해 매년 개최하는 글로벌 포럼이다. 정부를 비롯해 기업, 지역공동체, UN 기구, 인권단체, 학계 등 다양한 이해관계자가 함께한다. 이번에는 각국의 인터넷/IT 전문가 등 약 4000명이 참석했다.

카카오는 첫날 첫 번째 세션인 ‘AI 분야의 책임있는 비즈니스 행동’에 참여해 ‘AI와 이용자 간 건강한 상호작용 위한 윤리’를 발표했다.

발표를 맡은 하진화 카카오 CA협의체 ESG위원회 그룹기술윤리팀의 프로젝트 리더는 카카오가 기술기업으로서 이용자의 인권보호를 위해 펼치고 있는 노력을 다각적으로 소개했다.

특히 ‘카카오 AI 윤리’에 새롭게 추가된 조항을 발표하고 변화하는 기술과 사회의 흐름에 발맞추기 위한 활동을 공유했다.

신규 조항은 ‘이용자의 주체성’으로 인간이 AI에 과도하게 의존하는 것을 경계하고 신체적·정신적·사회적 안전을 위협하는 사용이 일어나지 않도록 노력한다는 내용을 담고 있다. 이는 한국인공지능법학회와 협의를 기반으로 결정했다.

지난 25일부터 3일간 스위스 제네바에서 UN 산하 인권최고대표사무소가 주최한 제13차 ‘UN 기업과 인권 포럼’에 카카오 그룹기술윤리팀 허진화 프로젝트리더, 마이크로소프트 시니어 디렉터 아쉬토쉬 샤다, 인터넷랩 디렉터 일로이자 마사로(왼쪽부터) 등이 참석 중이다. 카카오 제공

카카오는 지난 2018년 1월 국내 기업 중 최초로 ‘알고리즘 윤리헌장’을 발표한 데 이어, 2019년 8월 기술의 포용성, 2020년 7월 아동과 청소년에 대한 보호, 2022년 5월 프라이버시 보호 등 총 3차례에 걸쳐 신규 조항을 추가하는 개정작업을 거쳤다.

2022년 7월 기술윤리를 계열사 전반에 걸쳐 점검하고 기술과 사회가 함께 발전시켜 나가는 방안을 고민하기 위해 카카오를 비롯한 주요 계열사가 참여한 ‘공동체 기술윤리 위원회’를 설립했다.

2023년 3월 ‘공동체 기술윤리 위원회’는 기존 알고리즘 윤리헌장을 전면 개정해 ‘카카오 그룹의 책임 있는 AI를 위한 가이드라인’이라는 ‘그룹 AI 윤리 원칙’을 수립했다.

‘AI 윤리 원칙’은 ’ 이용자의 주체성’이라는 이번 조항을 비롯해 ‘포용성’, ‘투명성’, ‘프라이버시’, ‘이용자 보호’등 총 10개의 원칙으로 이루어져 있다.

신규 조항을 함께 수립한 변순용 한국인공지능윤리학회장 겸 서울교육대학교 윤리교육학과 교수는 “이용자의 주체성과 안전성을 강조하는 새로운 조항은 AI 기술에 기반한 서비스에서 발생할 수 있는 AI 과의존과 과몰입의 문제를 해소할 수 있는 중요한 대응책이 될 것”이라며 “AI윤리를 강화하려는 카카오의 이러한 노력은 AI분야의 리더로서 수행하는 사회적 책임의 실천으로서 AI 서비스 분야에서 중요한 방향타의 역할을 할 것”이라고 말했다.”

이상호 카카오 그룹 기술윤리 소위원회 리더는 “카카오의 AI기반 기술과 서비스가 보다 안전하고 포용적이며 믿을 수 있는 미래를 만들어 나가도록 정책을 가다듬고 적용하는 데에 세심한 노력을 기울일 것”이라고 밝혔다.

국윤진 기자 soup@segye.com

ⓒ 세상을 보는 눈, 세계일보