"AI는 인간 위해 존재"…정부 'AI 윤리기준' 확정

[머니투데이 조성훈 기자] [4차산업혁명위, 정부 AI윤리기준 심의의결…기술오남용, 데이터 편향성 해소위해 활용키로]

AI윤리기준 개요/사진=과기정통부

인공지능(AI)이 우리 일상은 물론 산업현장과 의료, 공공, 군사 등 각 분야에 속속 확산되는 가운데 AI 의 윤리적 기준을 만들어야한다는 목소리가 크다. 효율성과 편의성을 우선시하는 쪽으로 AI가 잘못 사용될 경우 인권은 물론 공공의 안녕까지 침해받을 수 있다는 우려에서다. 이와관련 정부가 처음으로 인공지능 윤리기준을 마련해 확산한다.

대통령직속 4차산업혁명위원회는 23일 과학기술정보통신부와 정보통신정책연구원이 마련한 사람이 중심이 되는 '인공지능(AI) 윤리기준'을 심의 의결했다.

이는 윤리적 AI를 실현하기 위해 정부·공공기관, 기업, 이용자 등 모든 사회구성원이 AI 개발과 활용 전 단계에서 함께 지켜야 할 주요 원칙과 핵심 요건을 제시하는 기준이다.

AI 윤리기준은 최고 가치를 ‘인간성(Humanity)’으로 설정하고 3대 원칙과 10대 핵심요건을 제시했다. 3대 기본원칙은 ‘인간성(Humanity)’을 구현하기 위해 AI의 개발 및 활용 과정에서 △ 인간의 존엄성 원칙 △사회의 공공선 원칙 △ 기술의 합목적성 원칙을 지켜야 한다.

10대 핵심요건은 3대 기본원칙을 실천하고 이행할 수 있도록 AI 개발~활용 전 과정에서 ①인권 보장 ②프라이버시 보호 ③다양성 존중 ④ 침해금지 ⑤공공성 ⑥연대성 ⑦데이터 관리 ⑧책임성 ⑨안전성 ⑩투명성의 요건이 충족되도록 했다.

이번 AI윤리기준은 지난해 12월 인공지능 국가전략 주요과제 및 지능정보화 기본법 제정 후속조치로 추진된 것이다. 지난 4월부터 학계와 기업, 시민단체 간담회, 공개공청회 등을 통해 의견수렴을 거쳤다.

4차위는 "AI 기술이 제조와 의료, 교육 등 산업 전분야와 국민생활에 확산되는 가운데 기술 오남용과 데이터 편향성 문제를 최소화하고 윤리적으로 AI를 개발, 활용하기위해 사회 구성원이 참조할 기준을 제시한다는 점에서 의미가 있다"고 밝혔다.

과기정통부는 이번 윤리기준의 현장 확산을 위해 개발자·공급자·이용자 등 주체별 체크리스트 개발과 AI 윤리 교육 프로그램 등 구체적인 실천방안을 마련해 추진할 계획이다.

최기영 과기정통부 장관은 “지난 11월 27일 윤리기준 초안을 발표한 후 공청회 등 폭넓은 공개 의견수렴을 거쳐 '인공지능 윤리기준'이 마련된 만큼, 이번 AI 윤리 이슈에 대한 우리사회의 토론과 숙의의 시작점이자 사람 중심의 AI로 나아가는 플랫폼이 되도록 노력하겠다”고 밝혔다.

디지털집현전 구축계획 개요/사진=과기정통부

한편 4차위는 이날 온라인 통합 지식정보 플랫폼인 '디지털집현전' 추진계획을 심의 의결했다.

코로나19 이후 전면 원격교육, 재택근무 확대 등에 따라 온라인 지식정보 및 양질의 교육콘텐츠에 대한 수요가 급증한 가운데, 누구나 지식정보를 쉽게 접근·활용할 수 있도록 하자는 취지다. 현재 국가지식정보는 분야별·기관별로 파편화돼 국민들이 지식정보 접근·검색이 불편해 활용이 어렵다.이에 디지털 집현전을 통해 25개 국가기관이 보유한 4억 4000만건의 지식정보를 포함해 각종 정보를 통합 검색하고 민간에서도 활용이 가능한 개방형 통합 플랫폼으로 구축할 계획이다. 정부는 내년 정보화전략계획(ISP)를 수립해 2022년부터 2023년까지 구축하고 2024년 대국민 서비스를 시작할 예정이다.

조성훈 기자 search@

<저작권자 ⓒ '돈이 보이는 리얼타임 뉴스' 머니투데이, 무단전재 및 재배포 금지>