AI윤리 논쟁에 불붙은 국감… 정부 "안전장치 병행하겠다"

AI육성 드라이브에 역풍 우려
딥페이크 영상 시연 두고 파행도
野 "제도 방치땐 디지털 괴벨스"
국정자원 화재 대응도 ‘도마 위’

13일 열린 과학기술정보통신부 국정감사에서 김장겸 국민의힘 의원이 배경훈 부총리 겸 과기정통부 장관과 이춘석 전 법제사법위원장이 등장하는 딥페이크 영상을 시연했다. 국회방송 중계 화면 갈무리

이재명 정부 출범 이후 처음으로 열린 13일 국회 과학기술정보방송통신위원회의 국정감사에서 딥페이크 등 AI 악용 위험성에 대한 우려가 제기됐다. 최근 정부가 AI 기술 개발에 전력질주하는 상황에서 산업 육성에만 치우치면 심각한 위험에 직면할 수 있다는 주장이다.

■직접 제작한 딥페이크 영상 재생

이상휘 국민의힘 의원은 국회 과방위 국정감사 현장에서 박장범 KBS 사장을 활용해 제작한 딥페이크 영상을 직접 시연하며 딥페이크의 위험성을 제기했다.

이 의원은 "음성파일, 동영상, 사진만 있으면 몇 분 안에 금방 만들 수 있다. 굉장히 무서운 일"이라며 "정부가 지금처럼 'AI는 기회다'라는 슬로건만 반복한다면 머지않아 'AI는 재앙이었다'는 비명이 터져 나올지도 모른다"고 우려했다.

이 의원은 "AI 기술 개발의 당위성은 이해하지만, 이런 부작용이 경제와 사회, 문화를 넘어서 정치적 영역까지 퍼지면 얼마나 여론이 왜곡되고 조작될 수 있겠나. AI 기술 자체에는 선악이 없으나 인간의 윤리와 책임이 뒷받침되지 않을 때는 혼란을 야기할 수 있다"면서 "AI가 제도적 장치 없이 방치된다면 '디지털 괴벨스'가 될 수 있다"며 목소리를 높였다.

같은 당 김장겸 의원도 "AI를 이용한 녹취록은 손쉽게 만들 수 있다. 경각심을 일으키는 차원에서 준비했다"면서 주식 차명거래 의혹으로 민주당을 탈당한 이춘석 의원이 배경훈 부총리 겸 과기정통부 장관과 술잔을 부딪히는 영상을 틀었다.

이에 대해 배경훈 부총리는 "말씀 주신 내용에 충분히 공감하고 있다"면서도 "이같은 기술 (악용) 방지를 위해서도 AI 기술의 발전이 필요하다. 기술의 발전이 빠르게 진행 중인 만큼, 기술 발전을 위한 노력과 문제 방지를 위한 제도적 장치가 병행해야 한다"고 답했다. 이어 "AI 기본법에도 AI 안전과 신뢰에 대한 부분을 충분히 담기 위해 노력하고 있고 AI 안전연구소에서도 딥페이크 방지 기술 등에 대한 R&D 연구도 진행 중"이라고 설명했다. 다만 딥페이크 영상 시연을 두고 여야 의원들 사이 언쟁이 오고 가면서 결국 오전 국정감사가 정회되는 등 파행도 있었다.

■여야 언쟁 커지며 오전 국감 파행도

이날 국감에서는 국가정보자원관리원 화재에 따른 시스템 마비 대응 문제, 지난해 R&D 예산 삭감 등도 도마 위에 올랐다. 특히 이재명 대통령의 JTBC 예능 프로그램 '냉장고를 부탁해' 출연으로 화재 대응이 늦어진 게 아니냐는 야당의 질타도 이어졌다.

한편 배 부총리는 이 자리에서 AI 경쟁력 강화의 필요성을 재차 강조했다. 배 부총리는 "정부는 AI와 같은 첨단과학기술을 통해 저성장과 글로벌 기술패권 경쟁이라는 위기를 극복하고, 국민 모두가 함께 잘사는 대한민국을 실현하기 위해 최선을 다하고 있다"면서 그래픽처리장치(GPU) 20만장 2030년까지 확보, AI의 연구개발(R&D) 전 과정 도입, R&D 투자 등을 약속했다.

그러면서 "세계 최고 수준의 기술과 인재를 키우고 확보된 독자AI모델을 경제사회 전반에 확산시켜 국민 모두가 편익을 누리는 AI기본사회를 완성하겠다"며 "AI법체계를 정비해 안전하고 신뢰 가능한 AI 생태계를 구축하겠다"고 말했다.

yjjoe@fnnews.com 조윤주 기자

Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.