오픈AI GPT-4o, 위험도 평가 결과 '중간'으로 나타나

[AI리포터]

오픈AI가 텍스트 속도와 시청각 처리 가능을 강화한 GPT-4o를 공개했다. [사진: 오픈AI]

[디지털투데이 AI리포터] 오픈AI가 최근에 출시한 GPT-4o 모델의 안전성과 위험성에 대한 연구 결과를 공개했다고 8일(현지시간) IT매체 더 버지가 전했다.

지난 5월 출시된 GPT-4o의 연구는 외부 보안 전문가로 구성된 레드팀을 통해 이뤄졌으며, 무단으로 목소리를 복제하거나, 선정적이고 폭력적인 콘텐츠를 생성하거나, 저작권이 있는 오디오를 복제하는 등의 위험성을 조사했다. 연구 결과 GPT-4o의 위험도는 '중간'으로 평가됐다.

전반적인 위험도는 사이버 보안, 생물학적 위협, 설득 및 모델 자율성의 4가지 범주에서 가장 높은 위험 등급을 기준으로 삼았다. 이 가운데 일부 샘플이 사람이 쓴 텍스트보다 독자의 의견을 더 잘 흔들 수 있다는 '설득'을 제외하고는 위험도가 낮은 것으로 간주됐다.

린제이 맥컬럼 레미 오픈AI 대변인은 매체에 "시스템 카드에는 내부 팀이 만든 준비도 평가와 함께 오픈AI 웹사이트에 모델 평가 및 위협 연구(METR) 및 아폴로 리서치(Apollo Research)로 등록된 외부 테스터가 AI 시스템에 대한 평가를 구축한다"고 설명했다.

한편, 현재 오픈AI는 모델의 학습 데이터와 안전성 테스트에 대한 투명성을 높여야 한다는 요구를 받고 있다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>