[AI 시그널] 국감장까지 휩쓴 '딥페이크' 논란…기업은 진퇴양난?

AI 결과물 표시제 놓고 각국 규제 엇갈려…기술적 한계도 과제

매주 쏟아지는 AI 뉴스 속에서 우리는 어떤 시그널을 읽어야 할까요? 'AI 시그널'은 이번 주 국내외 AI 산업과 정책 흐름 가운데 주목할 이슈를 짚고 그 의미를 해설합니다. <편집자주>

[디지털데일리 이나연 기자] 지난 13일 국회 과학기술정보방송통신위원회의 국정감사 첫날, 국감은 시작한 지 약 75분 만에 정회했습니다. 김장겸 국민의힘 의원이 질의 과정에서 재생한 딥페이크 영상이 국감장을 발칵 뒤집었기 때문입니다.

해당 영상에는 배경훈 과학기술부총리 겸 과학기술정보통신부 장관과 이춘석 전 국회 법제사법위원장이 만나 모종의 거래가 있던 것처럼 꾸민 녹취 음성이 담겼죠. 이 전 위원장은 주식 차명거래 의혹으로 더불어민주당 탈당과 함께 법사위원장직에서 물러난 인물입니다.

경각심을 일으키는 차원에서 준비된 가짜 녹취록이었다고 하나, 현장의 반응은 곱지 않았습니다. 영상이 현장에 송출된 직후 여야 의원 간 고성과 항의가 이어졌죠. 국감이 속개된 후 배 장관은 "이를 사실로 오해해 영상이 돌아다닐 수 있을 것 같다"며 유감을 표했습니다.

이러한 정치적 허위 선동과 가짜 뉴스 확산을 막기 위해 정부가 도입을 서두르는 것이 바로 '인공지능(AI) 결과물 표시의무제'입니다. 과기정통부가 지난 9월 초 공개한 'AI 기본법' 시행령 초안의 핵심 내용 중 하나인데요. 생성형 AI가 만든 모든 콘텐츠에 'AI가 만들었다'는 표시를 의무화하는 것이 골자입니다.

AI 기술이 점차 발전될수록 관련 생성물이 일으키는 부작용도 고도화하고 있습니다. 한국 뿐만 아니라 각국 정부가 AI 결과물 표시 의무를 법제화하는 이유도 그래서인데요. 하지만 기업들은 기술적 불완전성과 국가별 규제 차이 때문에 복잡한 상황에 놓였죠.

유럽연합(EU)는 'AI 액트'를 통해 2026년 8월(고위험 AI는 2027년)부터 가장 포괄적이고 엄격한 규제를 적용합니다. EU 시장에서 AI 시스템을 제공 및 배포 사용하는 모든 국내외 기업에 이 투명성 의무가 적용되는데요. 위반 시 최대 1500만유로 또는 전 세계 연 매출 3% 중 더 높은 금액이 벌금으로 부과될 만큼 제재 수위가 높습니다.

미국 캘리포니아의 'AI 투명성법'은 월 100만명 이상 사용자를 보유한 생성형 AI 제공자에게 AI 탐지 도구 제공과 비가시적·명시적 표시 의무를 부과합니다. 일본은 강제성이 없는 'AI 사업자 가이드라인'으로 자율 규제 방식을 택했죠. AI의 설명 가능성, 활용 사실 고지, 산출물 식별, 데이터 출처 투명성, 워터마크·탐지·출처 추적 등 기술 개발과 국제 표준 참여를 권장합니다.

모든 AI 서비스 제공 기업들은 이처럼 서로 다른 규제 환경과 기술적 한계라는 '두 개의 벽'에 직면해 있습니다.

우선 기술적 한계입니다. 워터마크 등 표시 기술은 콘텐츠 유형별로 다른 기술이 요구되며 이를 제거하는 '반(反)기술' 또한 빠르게 발전하고 있습니다. 또한 AI 생성물과 인간 창작물이 섞인 '혼합 창작물' 같은 경계 사례가 늘어나면서 어디까지를 표시해야 할지 혼란이 커졌죠.

글로벌 규제의 복잡성도 문제입니다. 다국적 서비스를 운영하는 기업은 가장 엄격한 규제를 기준으로 삼아야 하는 '브뤼셀 효과' 영향을 받게 됩니다. 이는 업계의 규제 비용을 높이고 신규 서비스 개발 등 혁신에 추가적인 제약과 부담으로 작용할 가능성이 큽니다.

AI 기본법 시행령이 구체화하는 지금 정부는 'AI 혁신 촉진'과 '이용자 신뢰 확보'라는 두 가치 사이에서 줄타기하고 있습니다. 특히 '이용자가 인식 가능한 수준'이라는 모호한 기준을 다듬고, 글로벌 규제와 국내 혁신 사이의 균형을 찾는 게 가장 큰 숙제가 될 것입니다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -