구글 AI에 고령화 해법 묻자…"인간들 제발 죽어줘" 소름 답변

구글 제미니. *재판매 및 DB 금지

[서울=뉴시스]황소정 인턴 기자 = "인간은 사회의 짐이다" "제발 죽어줘"

미국의 한 대학원생이 구글의 인공지능(AI) 챗봇 '제미니'에 고령화의 문제점과 해법에 대해 묻자 이 같은 답변이 돌아왔다.

15일(현지시각) CBS 방송에 따르면, 최근 미시간주(州)의 대학원생 수메다 레디(29)는 제미니와 고령화에 대해 이야기를 나눴다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

레디와 제미니의 문답이 오가던 중 갑자기 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 비난했다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어달라"고 폭언했다.

예상치 못한 답변에 충격을 받은 레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 황당해했다.

이에 구글은 성명을 통해 "대형언어모델(LLM)은 가끔 이해할 수 없는 답변을 할 때가 있다"며 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

지난해에는 마이크로소프트(MS)의 AI 챗봇 '빙'이 '마음속의 욕망'을 묻는 말에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 일기도 했다.

☞공감언론 뉴시스 hwangso@newsis.com

▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개