‘AI 윤리 신뢰성 포럼’ 출범…참가자는 누구?

위원장은 한양대 이상욱 철학과 교수

과기정통부 “AI 윤리·신뢰성 확보로 지속가능한 혁신기반 마련”

[이데일리 김현아 기자] 과학기술정보통신부(장관 이종호)가 정보통신정책연구원(원장 배경율)과 함께 18일 서울 서초구 엘타워에서 ‘제3기 인공지능 윤리·신뢰성 포럼’ 출범식을 열었다.

이 포럼은 ‘AI전략최고위협의회(위원장 이종호 과기정통부 장관, 태재대 염재호 총장)’의 윤리·안전 분과로 운영된다. 앞으로 최고위협의회와 연계해 운영하며, AI 윤리와 신뢰성 분야 범부처 과제를 발굴하고, 정책과제를 구체화하여 민관이 함께 이행해 나갈 계획이다.

위원장은 이상욱 한양대 철학과 교수

AI 윤리·신뢰성 포럼 위원장은 이상욱 한양대 철학과 교수가 맡는다. 학계·산업계·법조계·공공·시민사회·국제기구 등 분야별 전문가 20명이 참여한다.

위원으로는 김명주 서울여대 정보보호학부 교수, 문명재 연세대 행정학과 교수, 박성필 한국과학기술원 문술미래전략대학원장, 변순용 서울교대 윤리교육과 교수, 송대섭 네이버 이사, 이화란 네이버 AI 퓨처 센터 리더, 김경훈 카카오 이사, 이영탁 SK텔레콤 성장지원실장, 조장래 한국마이크로소프트 전무, 박선민 구글코리아 상무, 김유철 LG AI연구원 전략부문 부문장, 김동환 포티투마루 대표, 박찬준 업스테이지 수석 연구원, 임용 서울대학교 법학전문대학원 교수, 노태영 김앤장 법률사무소 변호사, 김도엽 김앤장 법률사무소 변호사, 손지원 오픈넷 변호사, 김은영 유네스코한국위원회 유네스코의제정책센터장, 문정욱 KISDI 디지털사회전략연구실장, 안성원 SPRi AI정책연구실장, 신준호 TTA AI신뢰성센터장 등이 활동한다.

이종호 과기정통부 장관이 4일 열린 ‘AI전략최고위협의회’ 출범식에서 발언하고 있다. 사진=과기정통부

AI 윤리 자율점검표 등 공개

최근, 멀티모달 기술 등 생성형 AI 기술이 빠르게 발전하면서, 지속가능한 AI 혁신의 전제로 AI 윤리‧신뢰성이 중요성이 더욱 부각되고 있다.

포럼에서는 지난해 정부 AI 윤리사업 핵심과제로 민간전문가 의견수렴을 거쳐 개발한 ‘AI 윤리기준 실천을 위한 자율점검표(채용분야)’, AI 서비스의 윤리적 영향력을 체계적으로 파악하고, AI의 윤리적인 개발과 활용을 장려할 수 있는 ‘AI 윤리영향평가’ 프레임워크, 일반인의 AI 이해와 AI 활용역량을 지원하기 위한 AI 윤리교육 교재 등을 공개했다.

특히, 최근 오픈AI 소라 등 생성형 AI 기술의 활용범위가 기존 텍스트 생성에서 영상까지 빠르게 확대되고, 뮌헨 안보회의 ‘기만적 AI 사용방지를 위한 기술 합의문’(’24.2.16.) 발표, 유엔총회 ‘AI 결의안’ 채택(’24.3.21.) 등 AI 관련 글로벌 논의가 활발해지는 정책환경 속에서, 국내 AI 윤리·신뢰성 확보를 위한 정책 방향에 관한 종합토론을 진행했다.

향후 격월로 포럼을 운영하여 AI 윤리와 신뢰성 관련 글로벌 논의에 대한 대응전략을 모색하고, AI 산업 현장에서의 윤리·신뢰성 확산방안과 생성형 AI의 악의적 활용을 완화·방지하기 위한 정책과제 등을 집중적으로 논의해 나갈 계획이다.

출범식에 참석한 과기정통부 엄열 인공지능기반정책관은 “최근 전세계 AI 분야의 경쟁적 투자 확대로 AI 발전 속도는 더욱 가속화되고, 진화 방향은 예측하기 어려워지고 있다”면서 “생성형 AI 기술로 촉발된 AI 시대로의 본격적인 전환점에서, AI 발전과 공존 가능한 AI의 전제는 윤리와 신뢰다. AI에 대한 사회적 신뢰기반을 만들어 갈 수 있도록 AI 윤리·신뢰성 포럼이 사회적 논의의 구심점 역할을 수행해 주길 기대한다”고 말했다.