‘AI 허위뉴스’ 확산 막는 검증시스템 구축 나선다

尹 “가짜뉴스, 빛보다 빨리 퍼져”

내년 9090억 들여 AI 신뢰성 강화

산불-홍수 등 자동 감시에도 활용

정부가 국민 일상생활과 밀접한 분야에 인공지능(AI) 기술을 대거 적용하는 동시에 허위 조작 정보 확산 등 생성형 AI 서비스의 부작용을 막기 위한 시스템 구축에 나선다. 이 같은 AI 활성화 및 신뢰성 강화를 위한 사업에 내년에만 9090억 원의 예산이 투입된다.

과학기술정보통신부는 13일 서울 청와대 영빈관에서 열린 제20차 비상경제민생회의 겸 ‘대한민국 초거대 AI 도약 회의’에서 윤석열 대통령에게 이 같은 추진전략을 보고했다. 이날 회의엔 초거대 AI 기술을 개발하고 있는 LG, KT, SK텔레콤, 네이버, 카카오 등 8개 기업 관계자도 참석했다.

윤 대통령은 “정부 지원은 기업의 과감한 투자와 도전에 마중물이 될 것”이라며 “궁극적으로는 민간을 통해 초거대 AI 경쟁력이 좌우될 수 있다”고 말했다. 윤 대통령은 이어 “가짜뉴스가 AI와 디지털을 이용해 빛보다 더 빠른 속도로 확산되면서 자유민주주의와 시장경제를 훼손하고, 우리의 미래와 미래세대를 망칠 수 있다”며 “인류 전체의 후생을 극대화하는 방안에 입각해 AI 질서 규범이 만들어져야 한다”고 강조했다.

과기정통부는 생성형 AI 기반 서비스로 발생할 수 있는 위험 요인을 제거하기 위해 연내 검·인증 체계를 마련할 예정이다. 내년에는 고위험 영역인 에너지, 교통, 원자력, 생체정보 등의 사업에 대해서는 제3의 기관을 통한 신뢰성 검·인증 실시를 의무화하기로 했다. 또 AI의 편향성이나 할루시네이션(환각 작용), 비윤리·유해성 표현 등의 논란을 기술적으로 예방하기 위한 연구개발(R&D) 투자에도 나선다. 이종호 과기정통부 장관은 “AI의 윤리와 신뢰성 강화를 위한 디지털 권리장전 수립을 통해 새로운 규범과 질서를 전 세계적으로 주도하겠다”고 말했다.

과기정통부는 이와 함께 일상과 산업 현장, 공공행정 등 사회 전반에 AI 기술이 녹아들도록 한다는 방침이다. 현재 산불 발생 위험이 높은 4개 기초자치단체에만 설치된 실시간 AI 기반 산불 감시 시스템을 2025년까지 50개로 늘린다. 하천 주변과 통제소 등 전국 223개 지점에 AI 기술을 적용한 자동 홍수 예보 플랫폼을 구축할 계획이다.

복지 분야에선 65세 이상 고령층을 대상으로 AI 기반 무인 반려동물 로봇을 개발해 보급하는 방안이 추진된다. 전국 박물관과 미술관에는 AI 큐레이터 로봇도 도입할 계획이다.

지민구 기자 warum@donga.com
이상헌 기자 dapaper@donga.com

ⓒ 동아일보 & donga.com, 무단 전재 및 재배포 금지