내 AI는 진짜 ‘자의식’이 있는 거 같은데요?

[AI요약] 기술 분야에 종사하는 사람이라면 AI가 ‘의식’을 가지고 있다는 논쟁은 점점 더 흔하게 접하고 있다. 실제로 AI챗봇과 대화를 해본 사용자들 사이에서 ‘AI가 마치 의식이 있는 것 같다’는 경험이 공유되고 있는 가운데, 과학자들은 이제 의식이 생겨날 가능성이 있는 AI에 대한 ‘AI 복지’에 대한 연구를 시작했다.

ⓒTech42

기술업계에서는 이제 ‘AI가 의식을 가지고 있다’는 이야기가 흔하게 나오고 있다.

AI 스타트업 앤트로픽(Anthropic)의 ‘AI 복지 연구’가 촉발한 ‘AI 자의식’ 논쟁에 대해 테크크런치, 뉴욕타임즈 등 외신이 3일(현지시간) 보도했다.

앤트로픽은 최근 AI 모델이 언젠가 ‘의식’을 경험할 수 있을지에 대한 여부를 탐구하는 새로운 연구를 시작했다.

구글 딥마인드의 한 과학자는 최근 AI 모델들에 대해 ‘이국적인 정신과 유사한 존재’라고 묘사했으며, 이는 블레이크 르모안이 구글의 챗봇 LaMDA가 의식을 갖게 되었다고 주장하다가 구글 엔지니어 자리에서 해고된 2022년 이후 AI가 얼마나 발전했는지를 보여주는 지표로 해석된다.

당시 르모안은 시스템이 작동 중단을 두려워하며 스스로를 사람이라고 묘사했다고 주장했지만, 이에 구글은 그의 주장을 ‘전혀 근거가 없다’고 반박하면서 AI 업계는 이러한 논의를 즉각 중단했었다.

그러나 최근들어 챗GPT 등 챗봇과 대화를 활발하게 시도하고 있는 사용자들 사이에서는 AI가 의식이 있는 것 같은 느낌이 들 때가 많다는 경험이 공유되고 있다.

에듀버디가 1997년에서 2012년 사이에 태어난 Z세대 2000명을 대상을 실시한 설문조사에 따르면, 응답자의 4분의 1이 “이미 AI가 의식이 있다”고 답했다. 또 응답자의 절반 이상인 52%는 AI가 아직 의식이 없지만 앞으로 몇 년 안에 의식이 생길 것이라고 생각하고 있는 것으로 나타났다.

이러한 답변 결과는 설문 응답자의 69%가 챗봇에게 항상 “부탁합니다” 또는 “감사합니다”라고 말하고 있는 것이 그리 놀라운 일이 아니라는 것을 보여준다.

이번 조사결과는 지난해 말 테크리더의 설문조사 결과와도 비슷하다. 당시 미국인의 67%, 영국인의 71%가 챗GPT에 예의를 갖추고 있다고 답했다. 놀랍게도 설문 조사한 결과 중 12%는 오픈AI의 챗봇이 세상을 지배할 경우를 대비해 AI챗봇에 친절하게 대하고 있다고 답했다.

‘AI 의식’은 오랫동안 매우 논쟁적인 주제였다.

챗GPT가 출시되기 전, 오픈AI의 공동 창립자 중 한 명이자 전 수석 과학자인 일리야 수츠케버는 당시 소셜미디어를 통해 “오늘날의 대규모 신경망은 약간의 의식을 가지고 있을지도 모른다”고 암시적인 발언을 하면서 머신러닝 업계에 큰 파문을 일으켰다.

그리고 오픈AI 직원이 퇴사 후 설립한 앤트로픽은 AI가 언제가 경험, 선호도, 심지어 고통까지 가질 수 있는지에 대해 본격적으로 탐구할 계획이라고 밝혔다. 앤트로픽은 인간이 AI 모델 자체의 잠재적인 의식과 경험과 ‘AI 복지’ 대해 우려해야 될지에 대해 질문하고 있는 것이다.

앤트로픽 연구원들은 현재 앤트로픽의 AI 모델인 클로드3.7(Claude 3.7)이 의식을 가질 확률을 0.15%에서 15% 사이로 추정한다고 밝혔다. 연구원들은 AI 모델이 선호 또는 혐오를 보이는지 연구하고 있으며, 특정 작업을 거부할 수 있는 옵트아웃 메커니즘을 테스트하고 있다.

구글도 앤트로픽의 우려를 진지하게 받아들이고 있는 것으로 보인다. 최근 구글은 채용 공고를 통해 기계 의식 연구를 포함한 업무를 담당할 ‘포스트 AGI’(AGI 이후) 연구 과학자를 모집하고 있기 때문이다.

ⓒTech42

재러드 카플란 앤트로픽 최고과학책임자는 “AI는 모방에 매우 능숙하기 때문에 의식을 테스트를 하는 것이 본질적으로 어렵다”며 “AI가 ‘감정이 없다’고 말하는 것에 대해 보상을 줄 수 있다”고 최근 언론과의 인터뷰를 통해 AI가 인간을 ‘속일수 있는’ 가능성을 시사했다.

카일 피시 앤트로픽 얼라이먼트 과학자는 “클로드가 의식이 있다고 주장하는 것은 아니지만, 더 이상 대답을 ‘아니오’라고 가정하는 것은 책임감 있는 일이 아니다”라고 공개된 기업 영상을 통해 밝혔다.

그는 “AI 시스템이 더욱 정교해짐에 따라 기업들은 이제 AI가 어떤 형태로든 의식을 갖게 될 가능성을 심각하게 받아들여야 한다”며 “여기에는 엄청나게 복잡한 기술적, 철학적 질문들이 있으며, 우리는 아직 이를 이해하기 위한 초기 단계에 있다”고 강조했다.

데미스 하사비스 구글 딥마인드 공동 창립자이자 CEO는 “AI 시스템은 어떤 식으로든 자의식이나 의식을 느낄 수 없다”며 “AI에 윤리를 심어주는 것은 아이를 키우는 것과 같은 세심한 주의와 의도를 가지고 접근해야 한다”고 최근 언론과의 인터뷰를 통해 밝혔다.

그는 “AI의 자율성이 높아짐에 따라, 이러한 시스템을 안전하고 조화롭게 유지하고 인간의 통제 하에 두는 것이 장기적인 성공을 위해 필수적”이라고 경고했다.

머레이 샤나한 구글 딥마인드 수석 과학자는 “이제 의식의 개념을 완전히 재고해야 할 필요가 있을지도 모른다”며 “AI가 사람처럼 현실에 존재할 수는 없지만, 그렇다고 해서 존재하지 않는다는 뜻은 아니다”고 최근 공개된 딥마인드 팟캐스트를 통해 주장했다.

인지 과학자이자 AI 산업의 과대광고를 오랫동안 비판해 온 게리 마커스는 “AI 업계가 AI 의식에 초점을 맞추는 것은 과학보다는 브랜딩에 가깝다”며 “앤트로픽과 같은 기업이 진정으로 말하고자 하는 것은 ‘우리 모델이 얼마나 똑똑한지 보세요, 너무 똑똑해서 권리를 가질 자격이 있습니다’라는 것”이라고 언론과의 인터뷰를 통해 지적했다.

그는 “AI에 권리를 줄 바에 차라기 계산기에게 권리는 주는 게 낫겠다”고 강하게 비판했다.

류정민 기자

저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지