학술 논문까지 AI가?…"명확한 가이드라인 수립 필요"

[AI리포터]

AI를 책임감 있게 사용하기 위한 가이드라인과 연구가 필요하다는 제언이 나왔다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 최근 인공지능(AI)이 학술 논문의 피어리뷰(peer-review) 과정에 큰 영향을 미치고 있다.

10일(현지시간) 온라인 매체 기가진은 피어 리뷰 보고서 작성에 AI 비중이 증가하고 있으며 이에 대한 책임감 있는 사용 방안이 필요하다는 연구 결과가 나왔다고 전했다.

스탠포드 대학의 제임스 조 교수 연구팀은 2023년부터 2024년까지 학술지에 게재된 컴퓨터 과학 관련 논문 약 5만건의 피어 리뷰 보고서를 분석했다. 그 결과, 문장의 약 7~17%가 AI에 의해 작성됐을 가능성이 있다는 사실을 발견했다.

AI가 작성한 피어리뷰 보고서는 대규모 언어 모델이 생성하는 문체에서 흔히 볼 수 있는 딱딱한 어조와 중복성이 포함돼 있었다. 또한, 실제 피어 리뷰 보고서에서 '칭찬할 만하다', '면밀한' 등 AI가 생성하기 쉬운 단어의 등장 횟수가 2022년 이전에 비해 약 10배나 증가했다.

조 교수는 AI를 통한 피어리뷰 보고서의 급격한 증가에 대해 "마감일에 임박해 제출된 피어리뷰 보고서에서 특히 대규모 언어 모델로 생성된 텍스트의 비율이 높아지는 것을 발견했다"고 말했다. 그는 "무책임하게 사용하면 대규모 언어 모델은 과학 프로세스의 무결성을 해칠 위험이 있다"고 경고했다.

조 교수는 대규모 언어모델을 리뷰 프로세스에 사용하는 것을 인정하면서도 "대규모 언어모델의 결과물을 최종적인 것으로 보지 말고 출발점으로 보고, 생성된 결과를 인간 리뷰어들이 교차 검증해야 한다"고 말했다. 또한 "학술지나 학회들은 심사 과정 중 대규모 언어 모델 사용에 대한 명확한 가이드라인을 수립하고, 이를 강제하는 시스템을 도입해야 한다"고 강조했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>