구글 제미나이, AI 인물 생성 기능 대폭 개선 나선다

[AI리포터]

[디지털투데이 AI리포터] 구글이 공식 블로그를 통해 생성형 인공지능(AI) 이미지 생성 기능인 제미나이(Gemini) 일시 중단에 대해 설명했다고 지난 24일(현지시간) IT 매체 IT미디어가 전했다.

구글 제미나이 중단 발표는 앞서 제미나이가 부적절한 역사적 표현을 생성한다는 문제가 제기됐기 때문이다. 예를 들어 제미나이는 1800년대 미국 상원의원을 그리라는 사용자의 요청에 1922년까지 선출되지 않은 여성 상원의원 이미지를 생성하기도 했다. 또한 독일 나치군 병사 이미지로 아시아계 여성이 표시되는 등의 역사 왜곡 사례가 발생했다.

이에 프라바카르 라가반 구글 검색 기술 책임자는 제미나이 문제 발생 원인으로 구글 딥마인드 팀이 개발한 2세대 생성형 AI 이미지 모델인 이매진2(Imagen2)를 꼽았다. 그는 "다양한 인물을 표시하도록 조정하는 과정에서 역사적으로 있을 수 없는 일이 일어났다"며 "이매진2가 다양한 인물을 표시해서는 안 되는 경우를 고려하지 않았다"고 말했다.

또한 그는 "이미지 모델인 이매진2가 학습 과정에서 의도했던 것보다 훨씬 더 조심스러워졌다"며 "이에 문제가 없는 프롬프트를 민감한 것으로 잘못 해석하고 응답을 거부하는 경우가 발생했다"고 밝혔다.

제미나이의 이미지 생성 기능은 계속 테스트 중인 것으로 알려졌다. 이에 프라바카르 라가반 기술 책임자는 "재출시 후에도 제미나이가 때때로 당황스럽거나 부정확하고 공격적인 결과를 생성하지 않을 것이라고 약속할 수는 없다"면서도 "문제가 발견될 때마다 즉각 조치를 취할 것을 약속한다"며 재출시까지 대폭 개선할 것을 강조했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>