은밀한 내 대화 이력, 타인이 봤다…버그 발생한 '챗GPT 공포'

사용자가 생성형 인공지능(AI) 챗GPT와 나눈 대화 주제 이력이 타인에게 고스란히 노출되는 오류가 발생했다. 챗GPT 개발사인 오픈AI는 “오픈 소스 소프트웨어로 인해 버그가 발생한 것”이라며 “중요한 오류는 수정됐다”고 밝혔지만, 오픈AI가 챗GPT 사용자의 대화에 접근할 수 있다는 사실이 확인되면서 사생활 침해 우려가 확산하고 있다.

챗GPT에 버그가 발생해 타인의 대화 이력이 유출됐다. 현재는 오류가 수정된 상태다. 중앙포토

22일(현지시간) 글로벌 정보기술(IT) 전문지 기즈모도에 따르면 지난 20일부터 트위터와 레딧 등 여러 온라인 커뮤니티에선 “챗GPT에 내 것이 아닌 대화 기록이 보인다”는 글과 인증샷이 속속 올라오기 시작했다. 한 레딧 사용자가 공유한 화면 인증샷엔 ‘중국의 사회주의 발전’과 같은 대화 제목 목록이 중국어로 떠 있다. 챗GPT와 사용자 간 대화는 사용자가 나중에 다시 열람할 수 있게 목록화돼 표시창에 저장되는데, 이 중국어 대화 목록은 자신의 것이 아니라고 했다.

사이버 보안 컨설턴트인 조던 휠러도 자신의 트위터에 캡처 화면을 올리면서 “다른 사람의 챗GPT 대화 목록이 내게 유출됐다. 조심하라”고 썼다. 그는 “네트워크 연결과 관련된 여러 오류도 발생하고 있다”고 지적했다.

이에 개발사인 오픈AI는 20일 오전 챗GPT 서비스를 일시 종료하고, 이날 오후 늦은 시간에야 대화 기록 표시창을 막아 놓은 채 서비스를 재개했다. 오픈AI의 대변인은 21일 블룸버그통신에 “오류가 수정됐다”며 “익명의 오픈 소스 소프트웨어의 버그로 인해 문제가 발생했다”고 밝혔다. 오픈AI의 최고경영자(CEO) 샘 알트먼은 22일 자신의 트위터에 “오류로 인해 일부 사용자들이 다른 사용자와 챗GPT 간 대화 이력을 보게 되는 일이 발생했다”면서 “끔찍한 기분”이라는 글을 남겼다. 회사는 현재 정확한 원인을 조사 중이다.

이번에 유출된 것은 타인의 대화 내용까진 아닌, 표시창에 저장된 대화 주제 이력이었고 누구의 것인지는 드러나지 않았다. 블룸버그는 “일부 사용자들이 타인의 대화 제목만 봤을 뿐, 실제 대화 내용에는 접근하지 못했다”고 전했다.

챗GPT 오류를 지적하는 트위터 글. 트위터 캡처

그럼에도 이 같은 기술적 오류로 인한 개인정보 유출 우려가 커지고 있다. 기즈모도는 “이번 사건은 AI 챗봇과의 대화가 사적 영역이 아니란 사실을 상기시켜준다”면서 “타인, 특히 개발사는 사용자와 챗봇 간 대화에 접근할 수 있다는 암울한 상황에 대한 경고”라고 전했다. BBC도 “이번 오류를 통해 오픈AI가 사용자의 대화에 접근할 수 있단 사실이 확인된 것으로 보인다”고 전했다.

지난해 11월 첫 출시된 챗GPT는 지금껏 수백만 명이 가입해 사용 중이다. 보고서 초안 작성, 작사‧작곡, 코딩까지 챗GPT에 의존하는 경우가 늘고 있다. 오픈AI의 개인정보 보호 정책에 따르면 사용자가 입력한 프롬프트(컴퓨터 시스템의 지시 메시지)나 챗GPT의 응답은 AI 학습을 위해 사용될 수 있다. 다만 개인 식별이 가능한 정보가 제거된 후에 사용된다.

구글이 공개한 바드

BBC는 챗GPT의 이번 오류가 구글이 챗GPT의 대항마인 AI 챗봇 ‘바드’의 베타 테스터를 언론에 공개한지 하루 만에 발생했다는 데 주목했다. 매체는 “구글과 마이크로소프트(MS)는 급성장 중인 AI 시장을 장악하기 위해 다투고 있다”면서 “신제품 업데이트 및 출시 속도가 빨라지면서 오류가 잦아져 사용자들이 의도치 않은 피해를 볼 수 있다”고 우려했다.

용어사전 > 챗GPT(ChatGPT)

일론 머스크 테슬라 최고경영자(CEO)와 샘 알트만 Y콤비네이터 전 회장이 공동 설립한 오픈AI가 만든 대화형 인공지능(AI) 서비스. 2022년 11월 30일 무료 공개됐다. 챗GPT는 1750억개 이상의 매개 변수를 가진 초거대 언어 처리 모델인 GPT3.5를 기반으로 사용자가 묻는 질문에 대답할 수 있도록 설계됐다. 실수를 인정하고, 잘못된 전제에는 이의를 제기하는 등 수준 높은 정보 처리 능력을 보여주고 있다.

박형수 기자 hspark97@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지