나눈다, ‘내가 먼저 벌어서’?…오픈AI 사태 낳은 노선 갈등

공리주의 뿌리 둔 ‘효율적 이타주의 운동’ 이사들 올트먼 해임 주도

AI 위험성 우려 반대파도 AGI 진두지휘한 올트먼 ‘선 넘었다’ 판단

오픈AI “관련 없다” 공식적 거리두기 하지만 ‘쿠데타’ 사실상 실패

샘 올트먼(사진)은 생성형 인공지능(AI)의 시대를 연 챗GPT 개발 주역이자 미국 스타트업 오픈AI의 최고경영자(CEO)였다. 그가 지난 17일(현지시간) 오픈AI 이사회에서 기습 해고를 당한 배경에는 AI의 위험성을 둘러싼 경영진 내 노선 갈등이 있다는 게 정설이다. 21일 업계에 따르면 전문가들은 이 같은 갈등의 핵심에는 미국 실리콘밸리에 널리 퍼진 ‘효율적 이타주의 운동’이 존재하고 있다고 분석한다.

효율적 이타주의는 냉철한 이성으로 타인을 이롭게 하는 방법을 찾자는 사상을 뜻한다. 감정적인 동기가 아닌, 과학과 데이터를 기반으로 인류 행복의 총합을 끌어올리자는 공리주의에 뿌리를 두고 있다. 대표적인 제창자는 <효율적 이타주의자>의 저자인 윤리학자 피터 싱어다. 최근에는 영국 옥스퍼드대 부교수인 윌리엄 맥어스킬이 이 운동을 이끌고 있다.

지난해 파산한 가상통화 거래소 FTX의 샘 뱅크먼프리드 CEO 역시 효율적 이타주의에 감화된 실리콘밸리 거물 중 하나다. 매사추세츠공대(MIT) 재학 시절 맥어스킬 교수로부터 “나눠주려면 돈을 벌라”는 조언을 들었다고 한다. 그가 설립한 자선기금 ‘FTX 퓨처 펀드’는 대표적인 효율적 이타주의 관련 재단으로 알려져 있다.

효율적 이타주의는 AI 발전에도 큰 역할을 했다. 페이스북의 공동창업자 더스틴 모스코비츠도 이 사상에 영향을 받았다. 그가 설립한 재단 ‘오픈 필란트로피’는 오픈AI에 3000만달러의 창업대출을 제공했다.

딥마인드, 앤트로픽 같은 거대 AI 기업의 창립 멤버들도 효율적 이타주의 운동으로부터 깊은 영향을 받은 것으로 전해진다.

올트먼 본인도 이 운동의 영향권에 있다. 그는 지난해 엑스(옛 트위터)에서 “엄청나게 결함이 있는 운동”이라고 선을 그으면서도 “개인으로서의 이타주의자들은 거의 항상 유난히 친절하고 선의를 지닌 사람들”이라고 평가했다. 효율적 이타주의자에게 AI는 ‘안전하게 관리해야 할 대상’이다. 통제가 불가능할 정도로 똑똑해진 AI는 인류에게 재앙이 될 수 있다. 현세대뿐만 아니라 미래세대에게도 이익이 되는 방향으로 AI를 이끌기 위해서는 섣부른 사업화 대신 철저한 검증과 모니터링이 먼저라는 게 주된 생각이다.

오픈AI는 공식적으로 “효율적 이타주의 운동과 관련이 없다”며 거리두기를 한다. FTX의 뱅크먼프리드가 사기 등의 혐의로 재판을 받으면서 이 운동까지도 싸잡아 “도덕적으로 파산했다”는 비난을 받았기 때문이다. 하지만 올트먼 해임을 주도한 것으로 알려진 타샤 매콜리, 헬렌 토너 등 2명의 이사는 효율적 이타주의에 깊이 관여해온 것으로 전해진다.

뉴욕타임스는 “또 다른 올트먼 반대파 일리야 수츠케버는 효율적 이타주의자는 아니지만 AI가 인류를 파멸할 것이라는 두려움에 동기 부여를 받은 것으로 보인다”고 평가했다. 올트먼은 투자 유치와 사업화를 위해 인간에 필적할 만한 지능을 가진 AGI(일반인공지능) 기술을 공개적으로 홍보해왔고, 올트먼이 ‘선을 넘었다’고 판단한 이사진이 해고를 단행했다는 것이다.

블룸버그통신은 “올트먼 해고는 ‘비효율적인’ 효율적 이타주의로 인해 촉발됐다”며 “회사의 이사진이 ‘AI가 인류를 노예로 만들 것’이라는 공포에 사로잡혀 있는 동안 기회를 낚아챈 마이크로소프트(MS)가 승리를 거머쥐었다”고 밝혔다.

김상범 기자 ksb1231@kyunghyang.com

▶ 독립언론 경향신문을 응원하신다면 KHANUP!
▶ 나만의 뉴스레터 만들어 보고 싶다면 지금이 기회!

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지