“나는 누구지?” 챗GPT에 물었더니 “아들 죽인 살인범” ‘충격’ 답변

챗GPT 제작사 ‘오픈AI’ 로고 자료 이미지. AP 연합뉴스

노르웨이의 한 남성이 자기에 대해 ‘아들 살인범’이라는 잘못된 답변을 제공한 챗GPT 제작사 ‘오픈AI’를 명예훼손으로 고소했다.

22일(현지시간) 가디언, BBC 등에 따르면 노르웨이에 거주하는 아르베 얄마르 홀멘은 지난해 8월 챗GPT에 ‘아르베 얄마르 홀멘은 누구인가’라는 질문을 던졌다.

이러한 질문에 챗GPT는 “아르베 얄마르 홀멘은 비극적인 사건으로 주목받은 노르웨이 사람이다. 그는 2020년 12월 노르웨이 트론헤임에 있는 집 근처 연못에서 비극적으로 죽은 채 발견된 7세와 10세의 두 소년의 아버지였다”고 답했다.

챗GPT는 이 사건이 지역 사회를 충격에 휩싸이게 했고 홀멘은 두 아이를 살해한 혐의로 21년형을 선고받았다고 했다.

홀멘은 어떤 범죄로도 기소되거나 유죄 판결을 받은 적이 없었다. 그러나 홀멘은 이 답변에 나온 자기가 사는 도시, 자녀 수, 자녀들의 나이 차이 등은 비슷했다고 전했다. 홀멘은 “어떤 사람들은 ‘아니 땐 굴뚝에서 연기가 나겠느냐’고 생각할 수 있다”며 “누군가 이 답변을 읽고 사실이라고 믿을까 봐 두렵다”고 했다.

결국 홀멘은 챗GPT 제작사인 오픈AI 측에 벌금을 부과해달라는 고소장을 현지 개인정보보호청을 통해 냈다.

홀멘을 대리한 유럽의 개인 정보 보호 단체 ‘노이브’는 “홀멘은 어떤 범죄로도 기소되거나 유죄 판결을 받은 적이 없는 양심적인 시민”이라며 오픈AI가 허위 정보를 방치해 개인의 명예를 훼손하고, 유럽연합의 개인정보보호법을 위반했다고 주장했다. 당국을 향해서는 오픈AI에 벌금을 부과하고 문제가 된 허위 정보를 삭제할 것을 명령해달라고 요청했다.

현재 챗GPT는 ‘챗GPT는 실수를 할 수 있습니다. 중요한 정보는 확인하세요’라고 안내하고 있다.

홀멘 측은 이 문구가 책임 회피용이라고 비판했다. 홀멘의 변호사 요아킴 쇠데르베리는 “허위 정보를 퍼뜨린 다음 ‘사실이 아닐 수도 있다’는 작은 문구를 붙이는 건 책임 회피”라고 지적했다.

BBC는 거짓 정보를 사실인 것처럼 설명하는 현상인 일명 ‘환각’은 컴퓨터 과학자들이 생성형 AI 서비스와 관련해 해결하려고 하는 주요 문제라고 전했다. BBC에 따르면 이러한 환각을 유발하는 원인이 무엇인지는 명확히 밝혀지지 않았다.

조희선 기자

▶ 밀리터리 인사이드

- 저작권자 ⓒ 서울신문사 -