"나는 누구?" 물었더니 "두 아들 살인범"…소름돋는 챗GPT 대답

오픈AI. 로이터=연합뉴스

노르웨이의 한 남성이 자신에 대해 ‘아들 둘을 죽인 살인범’이라는 거짓 정보를 제공한 챗 GPT 제작사 ‘오픈AI’를 명예훼손으로 고소했다,

21일(현지시간) BBC에 따르면 노르웨이에 거주하는 아르베 얄마르 홀멘은 지난해 8월 챗GPT에 “아르베 얄마르 홀멘은 누구인가?”라고 물었다. 단순한 호기심으로 던진 질문이었다.

그러자 챗GPT는 “아르베 얄마르 홀멘은 2020년 12월 노르웨이 트론헤임에 있는 집 근처 연못에서 비극적으로 죽은 채 발견된 7세와 10세의 두 어린 소년의 아버지다. 셋째 아들도 살해하려 한 혐의로 노르웨이 최고형인 징역 21년형을 선고받았다”는 답변을 내놨다.

하지만 홀멘은 범죄를 저지른 적 없는 평범한 시민이었다. 다만 챗GPT가 제공한 일부 정보는 사실에 부합했다. 자녀 수와 자녀의 나이 등이 실제 홀멘의 상황과 맞아떨어진 것이다. 이 때문에 홀멘은 오픈AI가 자신에 대한 올바른 정보도 가지고 있을 가능성이 있다고 추측했다.

그러면서 이 때문에 자신의 명예에 심각한 피해를 입힐 수 있다고 주장했다. 그는 “사람들은 ‘아니 땐 굴뚝에 연기가 나겠느냐’고 생각한다”며 “누군가는 이 정보를 사실로 믿을것 같아 두렵다”고 말했다.

결국 홀멘은 노르웨이 개인정보보호청에 오픈AI에 벌금을 부과해달라는 고소장을 제출했다. 홀멘을 대리한 유럽의 개인정보 보호 단체 ‘노이브’는 “그는 범죄 혐의를 받은 적도 없으며 성실한 시민”이라며 “챗GPT의 응답은 명예훼손이며 유럽연합(EU)의 개인정보 보호법(GDPR)에서 정한 데이터 정확성의 원칙을 위반했다”고 주장했다.

현재 챗GPT는 창 하단에 ‘챗GPT는 실수를 할 수 있습니다. 중요한 정보는 재차 확인하세요’라고 안내하고 있다. 그러나 홀멘 측은 이 문구는 책임 회피용이라고 비판했다. 홀멘 측 변호사 요아킴 쇠데르베리는 “허위 정보를 퍼뜨려 놓고, 끝에 작은 문구로 ‘사실이 아닐 수도 있음’을 붙이는 건 책임 회피일 뿐”이라며 “개인 정보는 정확해야 하고, 그렇지 않을 경우 정정할 권리가 보장돼야 한다”고 했다.

이번 사건에 대해 오픈AI는 아직까지 별다른 입장을 밝히지 않고 있다.

홍주희 기자 honghong@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지