中 'AI 동반자 앱 규제' 초안 공개…2시간 사용 후 휴식

[AI리포터]

[디지털투데이 AI리포터] 중국 정부가 'AI 동반자 서비스 규제'를 위한 초안 규정을 발표했다.

29일(현지시간) 실리콘앵글에 따르면, 이번 규정은 인공지능을 활용한 의인화 상호작용 서비스 관리 임시 조치로, 인간과 상호작용하며 인간과 유사한 특성과 행동을 보이는 AI 시스템에 적용된다. 공개 의견은 2026년 1월 25일까지 접수된다.

규정 초안은 AI 동반자 앱 제작사에게 사용자가 AI와 상호작용하고 있음을 명확히 알리도록 하고, 연속 사용 2시간 후 휴식을 권장하도록 요구한다. 또한 사용자의 감정을 평가하고 AI 의존 또는 중독 가능성이 확인되면 서비스 제공을 제한해야 하며, 자살 또는 자해 의사를 나타낼 경우 인간이 AI 상호작용을 대신하도록 긴급 대응 프로토콜을 마련해야 한다.

아울러 AI 동반자가 국가 안보를 위협하거나 루머를 퍼뜨리는 행위, 폭력 및 범죄 조장, 자해 유도, 감정 조작 등도 금지된다. 이번 규정은 중국 내 AI 동반자 앱 사용자가 급증하고 심리적 영향에 대한 우려가 커진 가운데 나온 것이다.

중국뿐 아니라 미국 캘리포니아주도 유사한 규제를 도입했다. SB 243 법안은 미성년자에게 3시간마다 AI와 상호작용 중임을 알리고 휴식을 권장하도록 하고, 연령 확인, 의료 전문가 가장 금지, 음란물 제공 금지, 위반 시 손해배상 청구 가능 등 내용을 담고 있다.

중국 사이버공간관리국(CAC)은 이번 규정의 목적을 "AI 기반 의인화 상호작용 서비스의 건전한 발전과 표준화된 적용을 촉진하고, 국가 안보와 공공 이익을 보호하며, 시민과 법인 등의 합법적 권익을 보장하기 위함"이라고 밝혔다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>