KISDI, 지속가능한 신뢰와 안전을 위한 첫걸음: 인공지능 영상합성서비스 윤리영향평가 시범평가 공개 토론회 개최

KISDI 인공지능 영상합성서비스 윤리영향평가 공개 토론회. KISDI 제공

정보통신정책연구원(원장직무대행 김정언, 이하 ‘KISDI’)은 과학기술정보통신부(장관 유상임, 이하 ‘과기정통부’)와 함께 지난 20일 온라인 생중계를 통해 ‘인공지능(이하 ‘AI’) 영상합성서비스 윤리영향평가 공개 토론회’를 개최했다고 밝혔다.

이번 토론회는 학계·산업계·법조계·공공·시민사회·국제기구 등 다양한 분야 전문가들로 구성된 ‘전문가평가단’과 일반 국민 참여로 이루어진 ‘국민포럼단’이 ‘AI 영상합성’ 서비스의 윤리적 영향에 대해 논의한 결과를 공유하고, 국민의 의견을 폭넓게 듣기 위해 마련된 자리이다.

AI 윤리영향평가는 기업의 AI 윤리 및 신뢰성 실천 노력을 뒷받침하고, 사용자가 AI를 윤리적이고 주체적으로 활용할 수 있도록 기준을 제시하기 위해 올해 처음 시범적으로 시행되고 있다. 올해는 특히 딥페이크 범죄가 사회적 문제로 떠오르면서, 이에 따른 국민적 우려와 관심을 반영해 ‘AI 영상합성’ 서비스를 대상*으로 평가를 시행했다.

*제3기 AI 윤리·신뢰성 포럼, 대국민 의견조사(1500명 대상), 정부부처 선호도 등을 종합적으로 고려해 평가대상 선정

KISDI 인공지능 영상합성서비스 윤리영향평가 공개 토론회에서 참석자들이 기념사진을 찍고 있다. KISDI 제공

‘AI 영상합성’ 서비스는 딥러닝 기반으로 영상 데이터를 분석하고, 이를 토대로 영상을 생성하거나 기존의 영상, 이미지, 음성을 수정 및 변형하는 서비스를 의미한다. 딥페이크 악용 등으로 인한 부정적 우려가 존재하지만, 순기능을 강화한다면 다양한 산업 분야에서 긍정적 혁신과 사회적 효과를 기대할 수 있다.

이번 AI 윤리영향평가는 ‘AI 영상합성’ 서비스의 윤리적 긍·부정 영향을 국가 ‘인공지능(AI) 윤리기준’ 10대 핵심요건별로 살펴보고, 긍정적 영향 극대화와 부정적 영향 최소화를 위한 정부, 기업, 국민 등의 주체별 노력과 정책, 법·제도·기술적 대응 방안 등도 함께 고려했다.

본 평가는 2023년 과기정통부와 KISDI에서 개발한 ‘인공지능 윤리영향평가 프레임워크’와 같은 해 유네스코(UNESCO)가 발표한 ‘윤리적 영향평가도구 방법론’을 활용했으며, 이를 통해 기업, 시민사회, 학계, 정부 및 공공 등에 AI 영상합성서비스의 윤리적 영향력을 체계적으로 파악할 수 있는 참고자료를 제공하고자 한다.

AI 영상합성서비스 윤리영향평가 공개 토론회 프로그램. KISDI 제공

이번 공개토론회에서는 문정욱 KISDI 디지털사회전략연구실장이 ‘2024년 AI 영상합성서비스 윤리영향평가 결과(안)’을 소개했다. 이어 AI 윤리영향평가단장으로 활동한 이상욱 한양대 교수(좌장) ▲김유철 LG AI연구원 전략부문장 ▲변형진 이스트소프트 개발TF센터장 ▲선지원 한양대 법학전문대학원 교수 ▲이영복 제네시스랩 대표 ▲최호진 KAIST 교수 ▲송호준 과기정통부 인공지능확산팀장이 토론자로 참여했다.

문정욱 KISDI 디지털사회전략연구실장은 “AI 기술의 윤리적이고 안전한 활용은 지속가능한 디지털 사회를 위한 핵심과제이다. 이번 시범 평가는 AI 영상합성서비스의 긍정적 가능성을 극대화하고 부정적 영향을 최소화하기 위한 출발점이며 향후 학계·산업계·정부·시민사회가 함께 실효성 있는 대응 방안을 마련하는 데 중요한 참고자료가 될 것으로 기대한다”라고 말했다.

AI 윤리영향평가는 오늘 공개토론회에서의 논의와 내년 초 이해관계자 의견수렴을 통해 최종 결과를 도출한 뒤, 국민도 쉽게 접할 수 있도록 책자 형태로 내년 상반기에 발간될 예정이다.

본 행사는 과기정통부와 KISDI 유튜브채널을 통해 온라인으로 참여할 수 있다.

온라인뉴스팀

▶ 밀리터리 인사이드

- 저작권자 ⓒ 서울신문사 -