딥페이크 급증…국가인권위, “AI규제 유예 신중해야”

[디지털데일리 최민지기자] 국가인권위원회가 인공지능(AI) 규제 유예를 신중해야 한다는 입장을 피력했다.

국가인권위원회(위원장 안창호, 이하 인권위)는 지난달 22일 국회의장에게 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 인공지능기본법)’ 제31조~제35조 시행 시기를 3년간 유예하려는 개정안에 대해 신중한 검토가 필요하다는 의견을 표명했다고 1일 밝혔다.

인공지능기본법은 올해 1월21일 제정돼 2026년 1월22일 시행 예정이다. 그러나 AI 사업자에게 일정한 책임과 의무를 부과하는 조항들이 AI 기술 발전과 기업 혁신을 저해시킬 수 있다는 지적이 제기되면서, 규제 조항 적용을 2029년 1월22일까지 3년간 유예하자는 취지의 개정안이 국회 발의돼 현재 계류 중이다.

이와 관련 인권위는 해당 규제 조항이 국민을 보호하고 안전하고 신뢰할 수 있게 AI를 사용하기 위한 핵심적 입법적 조치인 만큼, 기존대로 시행해야 한다는 입장이다.

인권위는 “AI 기반 영상 합성 기술이 더욱 정교해지면서 가짜 영상과 음성을 실제와 구별하기 어려운 수준에 이르렀고 해당 기술을 악용한 범죄가 급증하고 있다”며 “2024년 10월 기준 딥페이크 성범죄로 경찰에 신고된 건수는 전년 대비 518% 증가한 964건에 달했다”고 말했다.

이어 “인공지능이 잘못된 결론을 도출하거나 편향된 결정을 내리는 경우, 그 결과는 단순한 오류 정보를 넘어 국민의 인격권, 평등권, 사생활의 비밀과 자유 등 기본권에 직접적인 피해를 줄 수 있다”며 “국민의 기본권에 중대한 영향을 미칠 수 있는 고영향 인공지능 등에 대한 사전적 보호 조치가 장기간 미비한 상태로 남게 되는 결과를 초래하고 안전하고 지속 가능한 인공지능 발전을 저해할 우려가 있다”고 강조했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -