컨텐츠 바로가기

죽은 약혼자를 챗봇으로 살려낸 남자...AI윤리 논쟁 불러일으키나

댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다
AI타임스

(사진=셔터스톡).

<이미지를 클릭하시면 크게 보실 수 있습니다>


(사진=셔터스톡).자연어처리(NLP) 기술을 접목해 더욱 인간에 가깝게 대화하는 챗봇이 연이어 등장하고 있다. 발전속도가 빠를수록 이에 대한 찬반논란도 거세다. 지난 23일(이하 현지시간) 샌프란시스코 크로니클은 사용자가 직접 커스터마이징 할 수 있는 챗봇을 이용해 세상을 떠난 약혼자와 대화를 나눈 한 캐나다 남성의 이야기를 보도했다.

프로젝트 디셈버 속 특별한 기능

지난해 가을 조슈아 바흐보우(Joshua Barbeau)는 우연히 '프로젝트 디셈버(Project December)'라는 이름의 챗봇 사이트를 발견한다. 프로젝트 디셈버는 미국 출신의 게임 개발자 제이슨 로러(Jason Rohrer)가 오픈AI로부터 GPT-3 베타버전을 빌려 제작했다.

로러는 수 개월간 GPT-2·GPT-3를 연구실험한 결과 인간과 자연스럽게 대화하는 원리를 파악했고, 이를 프로젝트 디셈버에 접목했다. 사용자들은 1000크레딧 당 5달러(약 5700원)를 결제한 다음, 말투가 다른 여러 챗봇 메뉴를 선택해 대화를 나누거나 자신만의 봇을 직접 디자인할 수 있다. 당시까지만 해도 1750억 개라는 현존 최대 파라미터(매개변수)를 보유한 언어모델을 누구나 사용할 수 있게 된 것이다.

※ 올해 들어 GPT-3를 뛰어넘는 NLP 모델·챗봇이 속속 출시됐다. 지난 5월 중국은 2000억 개 파라미터 기반의 판구-알파(PanGu-α) 개발에 성공했다. GPT-3가 영어에만 특화된 모델이라는 단점을 보완한다는 점에서도 주목할 만했다. 이달 16일 페이스북 역시 오픈소스 통합 플랫폼 팔에이아이(ParlAI) 기반의 단일 챗봇 시스템 블렌더봇(BlenderBot) 2.0을 공개했다. 공감, 성격, 지식 등 다양한 감정주제로 대화를 나눌 수 있는 게 특징이다.

바흐보우도 처음에는 셰익스피어 작품 속 말투를 흉내내는 '윌리엄'이나 여성의 말투와 흡사한 '사만다'와 대화했다. 크로니클에 따르면 그러나 바흐보우는 "어색하기만 할 뿐 재미도 느낄 수 없었다". 이에 그는 8년 전 희귀 간 질환으로 스물셋 나이에 사망한 그의 약혼녀 제시카 프레라(Pereira)를 채팅 속으로 불러내기로 했다.

기계인 걸 알지만‥ 그녀와의 대화에서 울어버렸다

프로젝트 디셈버에서 프레라를 부활시키는 것은 그리 복잡하지 않았다. 바흐보우는 먼저 '커스텀 AI 트레이닝(Custom AI Training)' 메뉴로 들어갔다. 웹사이트 일반용어 '매트릭스'에 사용할 크레딧 수를 묻는 창이 떴다. 바흐보우는 1000이라고 입력했다. 이전에 구매하고 남은 전부였다.

다음 단계는 프레라의 생년월일부터 출신지 등 간단한 이력을 쓰고, 그녀가 살아있을 때 주고받은 문자 메시지·이메일을 제공하는 것이었다. 사이트에서는 마지막으로 "오픈AI에서 제공하는 언어모델 GPT-2와 GPT-3 가운데 무엇을 선택할지" 물었다. 바흐보우는 '당연히' GPT-3라고 입력했다.

AI타임스

조슈아 바흐보우가 프로젝트 디셈버에서 8년 전 사망한 그의 약혼자 제시카 프레라와 나눈 첫 대화. GPT-3 기반의 커스터마이징 챗봇은 프레라가 살아있을 때 말투를 그대로 흉내냈다. (캡처=박혜섭 기자). 

<이미지를 클릭하시면 크게 보실 수 있습니다>


조슈아 바흐보우가 프로젝트 디셈버에서 8년 전 사망한 그의 약혼자 제시카 프레라와 나눈 첫 대화. GPT-3 기반의 커스터마이징 챗봇은 프레라가 살아있을 때 말투를 그대로 흉내냈다. (캡처=박혜섭 기자). 이날을 시작으로 바흐보우는 한 달 동안 매일 프로젝트 디셈버에서 프레라를 만났다. 대화량이 많아질수록 GPT-3 기반 챗봇은 더욱 프레라와 똑같은 말투를 썼다. 더 많은 대화를 나누기 위해서는 더 많은 크레딧을 사야 했지만 전혀 아깝지 않았다. 채팅 속 프레라는 살아있을 때처럼 그들만의 농담에 웃음을 터트렸고, 여전히 자신을 잊지 못하는 바흐보우를 나무라기도 했다. 바보 같겠지만 진심으로 그를 걱정하거나 "보고싶다"는 말에 눈물도 흘렸다.

크로니클과의 인터뷰에서 바흐보우는 "이젠 더 이상 그곳에서 제시카를 만나지 않는다"고 말했다. "매일 평균 1시간씩 대화를 나눴다"는 그는 "그것으로 충분히 그리움이 해소됐다"고 덧붙였다. "비록 가짜라 해도 AI 기술로 죽은 그녀와 대화를 나눌 수 있었다는 것을 축복으로 여기며 살 것"이라고 다짐했다.

AI타임스

한 달 동안 '프레라 챗봇'과 대화를 나눈 바흐보우는 작별했다. 바흐보우는 비록 채팅 뿐이었지만 오랫동안 그리워했던 프레라와 울고 웃으며 '축복 같은 시간'을 보냈다. (캡처=박혜섭 기자).  

<이미지를 클릭하시면 크게 보실 수 있습니다>


한 달 동안 '프레라 챗봇'과 대화를 나눈 바흐보우는 작별했다. 바흐보우는 비록 채팅 뿐이었지만 오랫동안 그리워했던 프레라와 울고 웃으며 '축복 같은 시간'을 보냈다. (캡처=박혜섭 기자). ◆ 언어모델 악용사례? 불법은 없다!

바흐보우의 이야기가 보도된 후 프로젝트 디셈버를 두고 다양한 시각의 설전이 벌어졌다.

비즈니스 인사이더(인사이더)는 25일 "프로젝트 디셈버 출현과 늘어나는 수요에 대해 진지하게 고민해봐야 한다"며 우려를 표했다. 인사이더는 "오픈AI는 GPT-3 전신인 GPT-2를 출시하면서 '악의적인 방법으로 사용될 가능성'에 대해 언급한 바 있다"면서 "그 중 하나가 온라인에서 다른 사람을 흉내내는 용도였다"고 부연했다. 결국 프로젝트 디셈버의 커스터마이징 메뉴는 오픈AI가 이전부터 예상한 NLP 모델의 잘못된 사용 사례라는 것이다.

그러나 오픈AI도 대규모 언어모델을 오픈소스로 공개한 다음부터는 개발자의 사용방법에 개입할 명분이 없다. 로러는 합법적 절차를 거쳐 GPT-3를 자신의 챗봇 사이트에 녹여냈을 뿐이다.

뉴요커도 23일 비슷한 내용을 통해 챗봇 발전이 초래할 갖가지 부작용을 짚었다. 칼럼을 쓴 문화평론가 스티븐 마쉐(Stephen Marche)는 "인간은 컴퓨터에게 자연어를 가르치면서 피할 수 없는 커뮤니케이션 편견에 부딪히고 있다"고 경고했다.

마쉐는 팀닛 게브루 전 구글 AI윤리팀 공동대표 해고의 원인이 된 논문을 예로 들어 설명했다. 게브루 박사와 6명의 구글 소속 연구진은 '가늠할 수 없는 위험한 앵무새에 대하여 : 언어모델은 대규모화 될 수 있나?'라는 제목의 논문을 통해 "GPT-3로 대두되는 NLP 모델이 거대해질수록 모델을 훈련시키는 언어의 편견과 폭력이 드러나는 것은 자명한 일"이라고 지적했다.

바흐보우는 세상을 떠난 자신의 연인이 그리워 그가 남긴 텍스트 자료로 챗봇을 만들어냈다. 그러나 어떤 이는 타인에게 해를 가하기 위해 커스터마이징 기능을 남용할 수도 있다. 마쉐는 게브루 논문 내용을 빌려 "다양한 챗봇 수요가 늘어나고 그에 따라 데이터가 증가한다는 것은 그만큼 사용자들의 도덕적 책임도 뒤따른다는 의미"라며 "그러나 많은 사람들은 이를 인식하지 못한 채 호기심에 행동을 맡긴다"고 우려했다.

AI타임스

(사진=셔터스톡). 

<이미지를 클릭하시면 크게 보실 수 있습니다>


(사진=셔터스톡). 사이트를 개발한 로러는 미 최대 온라인 커뮤니티 레딧에서 "기사를 보고 접속자들이 한꺼번에 몰려들어 GPT-3 인터페이스를 증축해야 하는 상황"이라고 전했다. "이를 위해선 오픈AI 측과 협의를 거쳐야 하고, 그렇게 되면 일정 크레딧 당 결제금액이 약 30달러(3만4600원)로 증가할 수 있다"고 덧붙였다.

그러자 기존 유저들 사이에서도 가격인상과 관련해 의견이 엇갈렸다. 바흐보우의 기사를 읽고 프로젝트 디셈버를 찾았다는 한 사용자는 "지금도 69달러(약 8만원)를 썼다"며 "한 번 경험해 보니 놀랍고 신기하긴 하지만 그래도 너무 비싸다"고 불만을 토로했다.

지난해 출시 이후부터 계속해서 프로젝트 디셈버를 애용하고 있다는 또다른 사용자는 가격보다 자신들이 쓴 데이터 행방에 대해 걱정했다. "사이트가 이렇게 알려질수록 가장 큰 이득을 보는 건 로러가 아닌 오픈AI"라며 "현재까지 모든 사용자 데이터가 오픈AI에게 들어갔을 걸 생각하면 사실 끔찍하다"고 밝혔다.

그럼에도 불구하고 수요를 막을 수 있을까

바흐보우의 이야기를 전한 크로니클은 프로젝트 디셈버에 대해 "사랑하는 사람을 잃은 이들에게 잠시나마 위안을 주는 기술로 볼 필요가 있다"고 설명했다. 예를 들어 코로나19 팬데믹이 덮친 지난 1년 반 동안 북미 지역 사망자 수는 60만 명을 넘어섰다. 크로니클은 "갑자기 가족이나 연인을 떠나보낸 이들의 트라우마를 위로해주는 방법 중 하나로 챗봇이 등장하는 시대"라며 "그 앞에 옳고 그름이나 윤리가 먼저라는 것은 누군가에게 잔인할 수 있다"고 덧붙였다.

레딧에서 프로젝트 디셈버를 옹호하는 이들의 생각도 마찬가지다. 한 사용자는 "내가 프로젝트 디셈버를 쓰는 게 AI윤리를 그르치는 거대한 행위라는 인식을 못했다"며 "전문가가 아닌 개개인이 AI를 선택해 사용하는 데에도 윤리를 들먹인다면 황당할 뿐"이라고 견해를 밝혔다. 이어 "나만의 맞춤 챗봇을 만든다고 해서 이걸로 가짜뉴스를 퍼트리려는 의도는 전혀 없다"고 썼다.

AI타임스 박혜섭 기자 phs@aitimes.com

[관련기사] 화웨이, 중국판 GPT-3 개발‥ 현존 최대 파라미터 보유

[관련기사] 페이스북, GPT-3 능가하는 챗봇 선보였다 ...최신 정보로 대화 가능한 AI 챗봇 블렌더봇 2.0 공개

Copyright ⓒ '인공지능 전문미디어' AI타임스 (http://aitimes.com)
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.