표시 없는 AI가 키운 딥페이크 범람…조인철, 유통단계 책임법 발의

AI 생성물 표시 의무·표시 훼손 금지 추진
긴급 피해 땐 심의 전 임시조치 근거도

[이데일리 김현아 기자] 조인철 의원(더불어민주당)은 20일 딥페이크 등 AI 생성물의 확산에 대응해 ‘AI 생성물 표시제’ 도입과 허위·과장 AI 광고에 대한 신속 대응을 뼈대로 한 패키지 법안 2건(정보통신망법 개정안, 방송미디어통신위원회 설치법 개정안)을 대표발의했다고 밝혔다.

최근 기술 고도화로 일반 이용자도 진위를 가리기 어려운 합성 이미지·영상이 SNS와 플랫폼을 통해 빠르게 확산되면서, 이용자가 사실 여부를 판단하기 더 어려운 환경이 만들어지고 있다.

특히 AI로 합성된 ‘가짜 경찰 출동’ 영상처럼 실제 상황으로 오인될 소지가 큰 콘텐츠가 유통될 경우 사회적 혼선과 피해로 이어질 수 있다.

조인철 의원(더불어민주당)

조 의원은 디지털 취약계층 보호 필요성도 강조했다. 과기정통부·NIA의 ‘디지털정보격차’ 지표에서 고령층의 디지털 정보화 수준은 70.7%로 취약계층 가운데 가장 낮은 것으로 집계된다.

AI 기본법이 내일(22일)부터 시행되지만, 조 의원 측은 규율 범위가 ‘AI를 개발하거나 이를 활용해 제품·서비스를 제공하는 AI 사업자’ 중심에 머물러 포털·플랫폼 등 유통·확산 단계의 표시 의무와 관리 책임은 공백으로 남아 있다고 봤다.

이번에 발의한 정보통신망법 개정안은 이 공백을 메우기 위해 게시자·플랫폼·이용자 각각의 역할을 규정하는 방식으로 설계됐다.

AI 생성물을 직접 제작·편집해 게시하는 자는 표시 의무를 지고, 플랫폼 사업자는 게시자와 이용자의 표시가 유지되도록 관리할 책임을 부담한다. 이용자가 표시를 임의로 제거하거나 훼손하는 행위도 금지하는 내용을 담았다.

방송미디어통신위원회 설치법 개정안은 ‘긴급 피해’가 우려되는 상황에서 신속 차단 근거를 마련하는 데 초점을 맞췄다.

식약처·공정위 등 관계 중앙행정기관의 요청이 있을 경우, 방송미디어통신위원회가 방송미디어통신심의위원회 심의 이전이라도 플랫폼에 임시 시정조치를 요청할 수 있도록 하고, 이후 심의 결과에 따라 차단 확정 또는 원상복구를 결정하는 구조다.

또 다른 축은 ‘AI 허위·과장 광고’의 신속 심의다. 의약품·화장품·의료기기 등 국민 건강과 직결되는 분야의 부당 광고를 서면심의 대상으로 포함해 심의 지연을 줄이겠다는 내용이 포함됐다.

조 의원은 “AI 기술이 고도화되면서 ‘진짜인지, AI가 만든 것인지’조차 구분하기 어려운 상황인데 이용자 보호 장치는 미흡하다”며 “AI 혁신의 신뢰는 이용자 보호라는 기본에서 시작돼야 한다”고 의원실을 통해 밝혔다.

한편 정부도 2025년 12월 ‘AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안’을 내놓고, 플랫폼 단계의 ‘AI 생성물 표시제’ 도입과 표시 훼손 금지, 신속 차단 등을 추진하겠다고 밝힌 바 있다