구글, AI 생성 콘텐츠앱 단속 실시…"부적절 사례 적발"

[AI리포터]

구글 플레이 스토어 [사진: 셔터스톡]

[디지털투데이 AI리포터] 구글이 인공지능(AI) 생성 콘텐츠 애플리케이션(앱)에 대한 단속을 실시한다고 6일(현지시간) IT매체 테크크런치가 전했다.

최근 소셜미디어(SNS)를 통해 AI 옷 벗기기 앱 등 딥페이크 문제가 급증하면서 구글이 AI를 이용해 부적절한 사용 사례를 홍보하는 앱을 단속하고 있다. 애플과 구글은 이러한 앱을 앱 스토어에서 삭제하고 있지만, 여전히 심각하다는 지적이 나오고 있다.

최근 미국 전역의 학교에서는 학생들이 다른 학생의 딥페이크 누드 사진을 퍼뜨리는 문제가 발생하고 있다. 구글은 이에 대응해 부적절하거나 해로울 수 있는 AI 생성 콘텐츠가 포함된 앱을 구글 플레이에서 차단하는 정책을 시행하겠다고 밝혔다. 부적절한 사용 사례를 광고하는 경우에는 앱이 앱 스토어에서 삭제될 수 있다.

구글은 "개발자는 유해하고 불쾌한 콘텐츠를 생성하기 위해 AI 기능을 조작할 수 있는 프롬프트로부터 앱을 보호해야 할 책임이 있다"며 "개발자가 비공개 테스트 기능을 사용하여 앱의 초기 버전을 사용자와 공유하여 피드백을 받을 수 있다"고 전했다.

또 AI 앱을 개발하는 개발자를 지원하기 위해 '사람 + AI 가이드북'과 같은 다른 리소스 및 모범 사례도 게시하고 있다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>