AI도 AI를 구별하기 어렵다…생성형 텍스트 식별의 난제

[AI리포터]

AI가 생성한 텍스트를 완벽히 구별해 낼 수 있을까 [사진: 셔터스톡]

[디지털투데이 AI리포터] 생성형 인공지능(AI)이 고도화되면서 AI가 작성한 텍스트를 식별하는 것이 중요한 과제로 떠올랐다. 교육 현장에서 학생들의 AI 활용을 제한하거나, 제품 리뷰의 신뢰성을 확보하기 위해 AI 생성 텍스트를 감지하는 기술이 필요해진 것이다.

18일(현지시간) 온라인 매체 기가진은 더 컨버세이션을 인용, 미시간대 AI 연구자 앰부즈 테와리 교수가 AI 생성 텍스트 검출의 한계와 해결 방안을 분석했다고 전했다. AI 검출기는 주로 훈련 기반, 통계적 신호 분석, AI 워터마크 방식으로 작동한다.

훈련 기반 검출기는 '인간이 쓴 텍스트'와 'AI가 쓴 텍스트'를 학습해 구별하는 방식이다. 하지만 새로운 AI 모델이 등장하면 검출 정확도가 떨어질 수 있다. 통계적 신호 분석은 특정 AI 모델이 생성한 텍스트의 패턴을 분석하는 방법이지만, AI 모델이 업데이트되거나 비공개일 경우 한계가 있다. AI 워터마크 방식은 AI가 생성한 텍스트에 보이지 않는 표식을 남기는 방식이지만, AI 개발사의 협조가 필수적이다.

AI 검출 기술이 발전하고 있지만, 여전히 완벽하지 않다. 테와리 교수는 "AI 생성 텍스트 감지는 끝없는 군비 경쟁의 일환"이라며 "검출기가 효과적이려면 공개되어야 하지만, 이는 AI가 이를 회피할 수 있는 기회를 제공하는 딜레마를 낳는다"고 지적했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>