범용AI 가시화에 ‘기술유토피아’ 놓고 충돌…비판 넘어서기 위해선

‘오픈AI사태’와 효율적 이타주의

공리주의와 기술 엘리트 결합

‘AI 안전성’, 기후위기보다 중시

‘효율’과 ‘이타주의’ 이질적 결합

“큰돈 벌어 인류 기여가 바람직”



가상자산 투기등 태생적 한계 노출

이타주의 품는 다른 가치 필요

2014년 개봉한 영화 ‘그녀(HER)’의 한 장면. 주인공 남성(호아킨 피닉스 분)이 사만다라는 이름의 인공지능과 사랑에 빠지는 이야기다. 사람 지능에 근접하는 수준으로 인공지능이 발전하면서 ‘안전성’을 강조하는 실리콘밸리의 ‘효율적 이타주의’를 놓고 논란이 뜨겁다.

지난 6일 구글이 거대언어모델 ‘제미나이’(Gemini)를 발표했다. 고도의 추론능력을 갖춘, 사람 지능에 가까운 인공지능이라는 평가가 나온다. 최근 오픈에이아이의 최고경영자 샘 올트먼 기습 해고와 복귀 사태가 큰 관심을 끌었는데, 범용인공지능(AGI) 개발을 둘러싼 안전성 논란이 배경으로 전해진다. ‘안전한 인공지능’의 사명감을 앞세운 ‘효율적 이타주의’ 사상이 갈등의 배후에 있다는 분석이다.

■ 효율적 이타주의 논란

“실리콘밸리에서 시장의 힘을 믿는 사람들과 윤리, 이성, 수학, 정교하게 조정된 기술이 미래를 이끌어야 한다고 믿는 효율적인 이타주의자들 간의 경쟁과 갈등의 표출이다.” 지난달 22일 미국 ‘월스트리트저널’은 샘 올트먼 해고 사태를 이렇게 평가했다.

효율적 이타주의는 과학적이고 합리적인 방식으로 인류를 도울 수 있다고 믿으며 그 방법을 찾는 사상이자 운동이다. 인공지능과 관련해서는 안전성과 속도조절을 강조한다. 오픈에이아이에서 샘 올트먼의 해임을 주도한 일리야 수츠케버, 타샤 맥컬리, 헬렌 토너 등 3명의 이사도 효율적 이타주의와 직·간접 관련을 맺어온 것으로 알려져 있다.

오픈에이아이는 설립 당시부터 “돈을 버는 것이 아니라 인류에게 유익한 방식으로 인공지능을 사용”할 것을 표방했다. 이사회의 목적도 “고도로 자율적인 범용인공지능을 개발하고 이 기술이 안전하고 이로운 방식으로 사회를 재구성”하는 데 있다. 2021년 오픈에이아이에서 독립한 개발자들이 설립한 ‘앤트로픽’은 성장과 이익보다 안전 우선이라는 가치를 더욱 분명히 했다.

효율적 이타주의는 도덕적 행동의 동기나 과정보다 선한 결과를 중시하는 공리주의 사상의 전통 위에 있다. 이를테면 당장의 구호활동보다는 큰돈을 벌어 기부하고 인류에 선한 영향을 미치는 분야에서 일하는 것이 더 이롭다고 여긴다. 공리주의와 엘리트주의가 결합한 사상이자 운동으로서, 자신을 희생하지 않고, 부와 명예, 영향력과 선행을 조화시킬 수 있다는 점에서 선한 일을 통해 세상에 영향을 미치려는 미국 명문대 출신, 기술 엘리트들을 사로잡은 것으로 알려진다.

■ 실리콘밸리에서 확산한 이유

효율적 이타주의를 대표하는 철학자로 가장 널리 알려진 인물은 윌리엄 매캐스킬 옥스포드대 교수다. 그는 미국 대학 안에 진로선택 조언 단체인 ‘8만 시간’을 설립하는 데도 관여했다. 졸업생들은 당장의 작은 문제에 집중하는 자선활동보다 인류의 존폐를 좌우하는 중요한 분야에서 일하도록 권장된다. 효율적 이타주의자들이 보기에 인류가 직면한 가장 중요한 문제는 범용인공지능의 부상으로 인한 실존적 위협이다.

이들은 범용인공지능과 같은 뛰어난 기술이 인류에게 새로운 기회를 부여하고, 번영과 풍요를 가져온다고 믿는 ‘기술유토피아주의’에 가깝다. 다만 이를 위해서도 안전성이 절대적으로 중요하다고 믿는다. 인공지능을 통제할 수 없을 때 인류는 절멸이라는 실존적 위험에 처할 수 있다. 인공지능 안전성에 자원을 쏟아붓는 것이 장기적으로 볼 때 ‘효율적’인 이유다. ‘이코노미스트’에 따르면, 2022년까지 효율적 이타주의 관련 기금의 약 40%가 인공지능의 안전성 이슈에 사용되었다. 지난 7월 오픈에이아이는 사람 지능을 뛰어넘는 범용인공지능이 인간의 가치에 부합하도록 통제하는 ‘슈퍼얼라인먼트’ 연구를 강화하기 위해 향후 4년간 회사 컴퓨팅 자원의 20%를 쓰겠다고 발표한 바 있다.

■ 좌우의 비판, 넘을 수 있을까?

효율적 이타주의에 대한 비판 중 한 흐름은 왼쪽에서 나온다. 미래에 긍정적 영향을 끼치는 일이 도덕적 우선순위가 되어야 한다는 ‘장기주의’를 취한 결과, 지금 고통받는 사람들을 외면하기 쉽다. 인공지능의 편향성, 부작용과 같은 현실의 문제가 묻히는 경향도 있다. 권력에 대한 감시와 비판은 외면한 채 현상 유지를 옹호하는 백인 중산층 지향의 운동이라는 비판도 있다.

또 다른 비판론은 오른쪽에서 나온다. 인간 사회를 움직이는 것은 이기적 본성이며, 이타주의는 본성에 반하기 때문에 결국 자기모순에 빠지게 된다는 것이다. “미국 역사상 최대 규모의 사기 사건”으로 불리는 가상자산 거래소 에프티엑스(FTX)의 창업자 샘 뱅크먼프리드도 효율적 이타주의 신봉자라는 점이 드러나면서, “도덕적으로 파산했다”는 비난이 쏟아졌다. 좋은 일을 한다는 명분이 더 큰 도박, 무모한 선택의 합리화로 이어졌다는 것이다. 오픈에이아이 사태에서 드러났듯이 “자신만이 인류를 구원할 수 있다는 독선과 오만”에 대한 비판도 있다.

안전한 인공지능 추구를 앞세운 효율적 이타주의는 실패한 사상이자 운동일까? 인공지능윤리정책포럼위원장을 맡은 김명주 서울여대 교수는 “‘효율’과 ‘이타주의’의 이질적 결합은 태생적으로 불안하다. 자신들이 인류를 구원한다는 기술 엘리트의 오만함·편협함도 보이지만, 실패했다고 단정하기는 어렵다. 인류에게 더 큰 가치와 유익을 주려는 이타주의 정신은 여전히 유효하며 효율이라는 가치보다 포용, 다양성의 가치와 만날 때 더 위력적일 것이다”라고 말했다.

한귀영 사람과디지털연구소 연구위원 hgy4215@hani.co.kr

▶▶한겨레의 벗이 되어주세요 [후원하기]
▶▶한겨레 뉴스레터 모아보기▶▶[기획] 누구나 한번은 1인가구가 된다

[ⓒ한겨레신문 : 무단전재 및 재배포 금지]