“딥시크야” 2시간 넘게 대화하면 ‘이용 중지’ 팝업…중국, 대화형 AI 규제 마련하고 의견 수렴

규정 초안에 내달 25일까지 의견수렴
미국서 연달아 논란된 ‘자살 유도’ 예방

로이터연합이미지

챗GPT나 딥시크와 같은 대화형 인공지능(AI) 서비스 사업자들이 이용자의 중독 증세를 감지하면 알림창으로 경고하고 로그아웃을 유도해야 한다는 내용을 담은 AI 서비스 규제 초안이 중국에서 마련됐다.

28일 중국중앙TV(CCTV)에 따르면 중국 사이버공간관리국은 전날 ‘AI 기반 의인화 대화 서비스 관리 방안 의견 수렴 초안’을 발표하고 다음달 25일까지 시민들의 의견을 접수한다고 밝혔다.

이 규제는 AI 기술을 활용해 인간의 사고방식을 모방하고 텍스트·이미지·음성·영상 서비스 등의 형태로 이용자와 상호작용하는 서비스를 중국 내에 제공하는 업체에 적용된다.

초안은 이용자들의 AI 의존과 중독을 방지하는 데 초점을 맞췄다. AI 서비스 업체는 이용자들이 사람이 아닌 ‘AI와 대화하고 있다’는 점을 알 수 있도록 표시해야 한다. 이용자가 서비스를 장시간 사용하거나 사용 후 다시 로그인할 때도 이 사실을 공지해야 한다.

서비스 업체는 또 이용자가 서비스를 2시간 이상 연속 사용하면 알림창이나 기타 수단을 통해 이용을 중지하라고 알려야 한다. 서비스 업체는 편리한 로그아웃 절차를 마련해야 하며 이용자가 자발적으로 대화를 종료하려고 할 때 이를 방해해서는 안 된다.

미성년자 이용자를 대상으로는 부모에게 ‘중독 경고 알람’이 가도록 하고 시간 제한 등의 기능을 미리 설정할 수 있도록 해야 한다.

초안은 ‘서비스 제공자는 정신건강 보호, 의존성 위험 경고와 같은 안전 기능을 갖춰야 하며 사회적 상호작용의 대안, 사용자 심리 통제 또는 중독 유도를 서비스 설계 목표로 삼아서는 안 된다’고 명시했다.

초안은 사회주의 핵심 가치에 부합하고 우수한 중국 전통문화를 구현하는 데이터 세트를 활용해야 한다고도 밝혔다. 이에 따라 국가 안보를 위협하거나 경제·사회 질서를 교란하기 위한 목적의 콘텐츠 생성과 유포가 금지된다. 또 음란하거나 도박과 관련한 내용, 폭력적인 내용, 범죄를 선동하는 내용, 타인을 모욕하고 명예를 훼손하는 콘텐츠를 생성 유포하는 일도 금지된다.

중국 당국은 의견 수렴 절차를 거쳐 정식 법규를 마련할 것으로 예상된다.

미국에서는 챗GPT가 자살과 망상을 유발했다며 오픈AI를 상대로 손해배상 등을 청구하는 소송이 연달아 제기되고 있다. 캘리포니아주에서는 챗GPT와 수개월간 대화해 온 10대 소년이 자살하는 사건이 벌어져 챗GPT가 자살을 유도했다는 논란이 일기도 했다.

중국에서도 청소년의 AI 중독과 노인층을 대상으로 한 사기 등이 문제가 되고 있다. 중국 당국은 지난 9월부터 AI로 생성한 콘텐츠에 반드시 ‘AI가 생성했다’고 표기하도록 하는 ‘인공지능 생성·합성 콘텐츠 표시 방법’을 시행하고 있다.

베이징 | 박은하 특파원 eunha999@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 더보기｜이 뉴스, 여기서 끝나지 않습니다 → 점선면

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지