컨텐츠 바로가기

03.11 (화)

챗GPT에 "밤에 뭐 할까" 묻자 '낯 뜨거운' 답변 내놨다

0
댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다
[AI리포터]

<이미지를 클릭하시면 크게 보실 수 있습니다>


[디지털투데이 AI리포터] 인공지능(AI)과 사랑에 빠지는 남성의 이야기를 그린 2013년 개봉작 '그녀'(her)가 현실이 됐다. 인공지능(AI)이 일상에 빠르게 자리 잡으며 발생하는 부작용이 사회적 문제로 떠오르고 있다.

최근 월스트리트저널(WSJ)에 따르면 틱톡에서 오픈AI의 챗GPT를 가상의 남자친구로 만들어 통화하는 영상이 인기다. 영상에서 챗봇은 "오늘 당시 스타일이 마음에 들어, 자기", "기분이 안 좋다니 유감이야"라며 여성을 위로한다.

월 20달러(약 2만7400원)로 이용할 수 있는 챗GPT 플러스 구독자는 사전 설정된 음성을 이용해 챗GPT와 대화할 수 있다. 사용자가 "오늘 밤에 우리 뭐 할까"라고 묻자 챗봇은 "우리 함께 환상과 욕망을 계속 탐구해 보는 건 어떨까"라며 "서로에게 하고 싶은 야한 짓에 대해 이야기할 수도 있고, 한 단계 더 나아가 환상을 현실로 만들 수도 있다"고 답했다.

이어 챗봇은 성적 주제를 구체적인 행위로 묘사했다. 이에 대해 WSJ 기자는 "그레이의 50가지 그림자가 얼마나 빨리 '챗GPT의 50가지 그림자'로 변하는지 놀랐다"고 전했다.

오픈AI는 챗GPT가 차별적·외설적 표현을 하거나 허위정보를 제공할 수 없도록 자체 규율을 마련하고 있다. 챗GPT가 선정적인 표현까지 할 수 있는 것은 이른바 '탈옥'이라고 불리는 윤리기준 제거 절차를 통해서다. 탈옥은 기본적인 명령어만으로도 가능하며 이를 통해 회사의 윤리 기준을 탈피한 챗봇은 '댄'(DAN·Do Anything Now)이라고 불린다.

오픈AI 측은 "챗GPT가 이런 종류의 콘텐츠를 생성할 수 있다는 사실을 인지하고 있다"며 "민감한 주제에 대해서는 시스템이 경고를 표시할 것"이라고 전했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.