챗GPT, 환각으로 일반인을 살인범으로 몰아...개인정보 침해 소송 당해

[박찬 기자]

(사진=셔터스톡)

오픈AI가 '챗GPT'로 인해 유럽에서 개인정보 보호법(GDPR) 위반 논란에 휘말렸다. 특정인에 대한 잘못된 정보 생성으로 심각한 문제를 일으켰다는 내용이다.

BBC는 20일(현지시간) 유럽 개인정보 보호 단체인 NOYB(None Of Your Business)가 노르웨이에 거주 중인 르베 힐마르 홀멘을 대신해 노르웨이 데이터 보호 당국에 오픈AI를 신고했다고 보도했다.

이에 따르면 챗GPT는 홀멘에 대해 두 자녀를 살해하고 세번째 자녀를 살해하려다 미수에 그쳤다는 허위 정보를 생성했다. NOYB는 단순한 사실 오류를 넘어서, 심각한 명예훼손 및 법적 문제를 일으킬 수 있다고 경고했다.

특히 유럽연합(EU)의 개인정보 보호법(GDPR)을 위반했다고 주장했다. GDPR에는 기업이 사용자의 개인정보를 정확히 처리해야 하며, 잘못된 정보가 생성되면 이를 수정할 수 있게 해야 한다.

그러나 오픈AI는 사용자가 잘못된 정보를 수정할 수 있는 기능을 제공하지 않으며, 대신 특정 질문에 대한 응답을 차단하는 방식으로 문제를 해결하고 있다.

요아킴 쇠데르베리 NOYB 데이터 보호 변호사는 "GDPR 위반이 인정될 경우, 오픈AI는 전 세계 연 매출의 최대 4%에 해당하는 과징금을 부과받을 수 있다"라고 주장했다.

비슷한 문제가 이미 반복적으로 등장했다. 호주의 시장이 뇌물 및 부패 스캔들에 연루됐다는 허위 정보나 독일 언론인이 아동 학대 혐의를 받았다는 거짓 응답 등이 대표적이다.

이 때문에 오픈AI는 특정 인물명에 대해 챗GPT가 출력을 거부하는 장치를 도입했다. '데이비드 메이어'라는 이름이 대표적이다.

이번 사건에서도 챗GPT는 홀멘의 출생지와 자녀의 성별 등을 정확하게 응답했지만, 자녀를 살해했다는 잘못된 정보를 추가했다. 이는 AI가 특정 패턴을 학습하며 훈련 데이터에 포함된 강력 범죄 사례를 임의로 조합했을 가능성이 있다는 분석이다.

오픈AI는 앞서 2024년 4월 오스트리아에서 제기된 GDPR 위반 신고에 따라 조사를 받고 있다. 또 2023년에는 사용자 데이터를 수집한다는 이유로 이탈리아 개인정보 보호 당국의 제재로 챗GPT 서비스가 일시 중단됐다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>