AI 생성 텍스트 식별한다…구글 딥마인드, '신스ID 텍스트' 공개

[AI리포터]

신스ID 텍스트 [사진: 구글 딥마인드]

[디지털투데이 AI리포터] 구글 딥마인드가 AI가 생성한 텍스트를 식별하는 '신스ID 텍스트'(SynthID Text)라는 기술을 발표했다.

24일 일본 IT미디어에 따르면 이는 디지털 워터마크(전자 워터마크) 기술을 통해 AI가 생성한 텍스트에 인간의 눈에는 보이지 않는 특수한 표시를 삽입함으로써 그 텍스트가 AI에 의해 생성된 것인지를 판별하게 해주는 기술이다.

신스ID 텍스트는 텍스트의 일부를 잘라내거나, 단어를 조금 변경하거나, 바꿔 말하는 등의 조작을 더해도 검출 가능하고, 견고성이 높은 점이 특징이라고 한다.

다만, 딥마인드는 이 기술이 획기적이지만 한계도 있다고 지적했다. 예를 들어, 사실을 담담하게 말하는 텍스트에서는 효과가 낮아지고, 대폭 재기록하거나 다른 언어로 번역된 AI 생성 텍스트에서도 검출하기 어려워진다. 또한 악의적 인 사용자를 직접 차단하도록 설계되지 않았다. 이러한 한계를 극복하기 위한 연구를 계속하고 있다는 설명이다.

신스ID 텍스트는 허깅페이스 트랜스포머 라이브러리에서 사용할 수 있다. 개발자는 자신의 텍스트 생성 모델에 통합할 수 있고, 워터마크의 검출 툴도 깃허브에 공개되고 있다.

Today, we're open-sourcing our SynthID text watermarking tool through an updated Responsible Generative AI Toolkit.

Available freely to developers and businesses, it will help them identify their AI-generated content.

Find out more → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y

— Google DeepMind (@GoogleDeepMind) October 23, 2024<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>