글로벌 칼럼 | ‘AI 기반’이라는 실리콘밸리의 새빨간 거짓말

“오래된 PPT 자료를 모두 살펴보고 ‘암호화’라는 단어를 ‘AI’로 바꿔줄 수 있나요?”

벤자민 슈워츠가 그린 뉴요커 만화에 나오는 이 캡션은 실리콘밸리의 새로운 ‘AI 워싱(AI Washing)’ 정신을 완벽하게 묘사한다.

ⓒ Getty Images Bank

AI 워싱은 단순한 현상처럼 들리지만, 실제로는 복잡하고 다면적이다. 그리고 이 글을 읽는 모든 사람(기술 리더, 마케터, 제품 개발자, 사용자, 모든 유형의 IT 전문가)은 마케팅과 영업뿐 아니라 업계 주장에 근거한 기사에서 과장, 왜곡된 강조, 노골적인 거짓말을 쉽게 접할 수 있다는 점을 알아야 한다.

AI 워싱의 이해

AI 워싱은 기업이 홍보하는 제품이나 서비스에서 AI의 역할을 지나치게 강조하는 기만적인 마케팅 관행을 말한다. ‘워싱’이라는 표현은 1986년 환경운동가 제이 웨스터벨트가 만든 ‘그린워싱(greenwashing)’에서 유래했다. 그린워싱은 소비자 제품이 환경에 미치는 영향과 관계없이 친환경적인 것처럼 마케팅하는 것을 말한다.

구식 알고리즘을 사용하는 제품은 AI인 것과 AI가 아닌 것에 대해 보편적으로 합의된 정의가 없다는 점을 이용해 ‘AI 기반’이라는 수식어를 붙인다. 스타트업은 공개적으로 사용 가능한 생성형 AI API에 플러그인하는 앱을 개발해 AI 앱으로 마케팅한다. 대형 AI 프로젝트는 종종 뒷단에서 일하는 사람에게 의존하곤 한다. 야심찬 AI 솔루션을 실제로 작동시킬 수 있는 유일한 방법이 사람뿐이기 때문이다.

마지막 부분에 대해 더 자세히 알아보자.

AI는 결국 사람이 만드는 기술

유통 대기업 아마존은 2016년부터 ‘저스트 워크 아웃(Just Walk Out)’ 기술을 적용한 참단 기술 매장 아마존 고(Amazon Go)와 아마존 프레시(Amazon Fresh)를 44곳에서 운영하고 있다.

필자는 아마존의 이 같은 이니셔티브에 대한 글을 2017년 처음 썼다. 소비자가 매장에 들어와 진열대에서 물건을 고른 다음, 계산대에서 직원을 마주하지 않고 바로 나갈 수 있는 매장이 아마존의 비전이었다. 이런 매장에서는 센서와 카메라가 AI 기반으로 누가 무엇을 구매했는지 파악하고 그에 따라 요금을 청구한다. 모든 구매 경험이 계산 없이 이뤄진다. 절도처럼 느껴지지만, 합법적인 구매 절차다.

이런 시스템은 첨단 컴퓨터 비전으로 구동돼 고객과 고객이 집어 든 물건을 감시한다. 선반의 센서는 카메라가 감지한 품목의 종류와 개수를 확인해 꺼낸 품목의 무게를 전달하며, RFID 태그가 부착된 품목 정보도 전달된다. 고급 ML 알고리즘이 카메라와 센서의 데이터를 처리해 제품을 식별하고 특정 쇼핑객과 연결한다. 전자 출입 게이트는 누가 언제 출입하는지 파악한다. 이런 알고리즘은 수백만 개의 AI 생성 이미지와 동영상을 학습해 제품, 사람 행동 방식과 동작을 인식한다.

아마존은 7년 동안 저스트 워크 아웃 기술의 구성 요소에 대해 열심히 이야기해 왔다. 하지만 이 기능을 실제로 작동시키기 위해 고용된 1,000여 명의 인력에 대해서는 언급하기를 꺼려했고, 언론 보도가 나온 후에야 이런 직원들의 존재를 인정했다. 그 후에도 아마존은 이 직원들이 영상을 검토하지 않았다고만 말하며 구체적인 역할에 대해서는 함구했다.

1,000여 명의 직원이 매장 44곳을 모니터링하고 지원(보고서에 따르면 주문의 3/4을 확인)하고 있음에도 불구하고, 저스트 워크 아웃 기술은 영수증 발급 지연, 잘못된 주문 관리, 높은 운영 비용 등의 문제에 봉착했다. 올해 아마존은 주요 매장에서 저스트 워크 아웃 기술을 단계적으로 폐지하기로 했지만, 고객사 대상으로는 여전히 서비스를 제공하고 있다.

‘AI 뒤에 숨은 인간’을 보여주는 또 다른 예는 자율 주행 자동차 세계다. 알파벳의 웨이모(Waymo)는 직원들이 카메라를 통해 자동차를 모니터링하고 문제가 발생하면 원격으로 개입하는 NASA 스타일의 지휘 센터를 운영하고 있다. 제너럴 모터스 산하 로보택시 기업 크루즈(Cruise)는 자율 주행 택시가 평균 6~8km마다 사람의 도움이 필요하며, 각 원격 제어 세션은 평균 3초 동안 지속한다고 인정했다.

다른 자율 주행 기업들은 원격 조종사의 도움을 더 많이 받고 있다. 베이(Vay)라는 독일 기업이 최근 라스베이거스에서 시작한 원격 발렛 파킹 서비스가 대표적인 예다. 고객이 원하는 곳으로 원격으로 차를 가져다주고, 운전자는 원하는 곳으로 차를 운전한다. 목적지에 도착해 차에서 내리면 원격 근무자가 대신 주차한다.

아마존의 상점과 자율 주행 자동차는 널리 퍼진 AI 워싱을 보여주는 2가지 예다.

AI 워싱이 발생하는 이유

AI 시스템을 구축하는 고액 연봉의 고급 기술자들은 AI가 매우 복잡한 문제를 해결할 수 있다고 믿는다. 물론 이론적으로는 가능하다. 이들은 상사에게 ‘그렇게 할 수 있다’라고 말한다. 이 말은 들은 리더들은 이사회에 ‘그렇게 할 수 있다’라고 말한다. 회사의 최고 경영진은 투자자들에게 ‘그렇게 할 수 있다’라고 말한다. 마지막으로 기업은 대중에게 ‘할 수 있다’라고 한다.

하지만 한 가지 작은 문제가 있다.

대부분 기업은 거창한 주장에 대해 책임감을 느끼기 때문에 제품이나 서비스가 결정을 내리고 문제를 해결하며 ‘마법’을 부리는 데 있어 커튼 뒤의 사람에 얼마나 의존하는지를 숨긴다. 뻔뻔한 기업일수록 AI의 능력이 자신이 주장하거나 믿었던 것만큼 뛰어나지 않다는 증거에 굴하지 않고 계속해서 자신의 주장을 되풀이한다. 이와 관련해 테슬라 CEO 일론 머스크가 떠오른다.

• 2016년 10월, 머스크는 2017년 말까지 테슬라가 로스앤젤레스에서 뉴욕까지 완전 자율 주행을 시연할 것이라고 말했다.
• 2017년 4월에는 약 2년 후에는 운전자가 차량이 스스로 운전하는 동안 차 안에서 잠을 잘 수 있을 것이라고 전망했다.
• 2018년, 머스크는 테슬라의 완전한 자율 주행에 대한 약속을 2019년 말로 앞당겼다.
• 2019년 2월 머스크는 “올해 안에” 완전 자율 주행 실현을 약속했다.
• 2020년에는 그해 연말까지 테슬라가 100만 대 이상의 자율 주행 로보택시를 도로에 배치할 것이라고 주장했다.
• 올해 역시 완전 자율 주행 테슬라가 “올해 말”에 실현될 수 있다고 말했다.

그런 일은 일어나지 않을 것이다. 머스크는 자신과 고객을 속이고 있는 AI 워싱의 대표주자다.

AI 워싱의 진짜 문제

누적되는 AI 워싱은 대중과 기술 산업 모두를 잘못된 길로 인도할 수 있다. AI 워싱은 AI가 할 수 없는 일을 할 수 있다고 착각하게 만든다. AI가 모든 문제에 대한 만능 해결책이라고 생각하게 만들거나, 세계관에 따라서는 디스토피아로 가는 미끄러운 경사라고 생각하게 만든다.

AI 워싱은 품질보다는 ‘마법’에 초점을 맞춘 열등한 솔루션에 금전적인 인센티브를 제공한다. 개를 목욕시키는 호스가 “AI로 구동된다”라고 주장한다고 해서 개가 더 깨끗해지는 것은 아니다. 단지 비싼 호스가 될 뿐이다.

왜곡된 투자를 이끌어내기도 한다. 오늘날 실리콘밸리의 투자는 실제 AI와 AI 워싱 솔루션에 완전히 사로잡혀 있다. 현명한 투자자조차도 구매자의 순진함 덕분에 AI 이야기가 시장에서 팔릴 것이라는 생각에 AI 워싱의 과장이나 거짓말을 간과할 수 있다.

가장 큰 문제는 업계의 과대광고가 아니라 자기기만이다. AI 솔루션 공급업체는 인간의 도움이 수치스러운 일이라고 생각하지만, 필자는 인간의 개입이 안도감으로 받아들여질 것이라고 생각한다.

대중은 쇼핑과 운전 경험에 사람이 관여하기를 원한다. 우리에게 필요한 것은 기계가 아닌 사람이다. 지금 이 순간에도 AI가 생성한 쓰레기는 기괴하고 때로는 끔찍한 이미지와 함께 엉뚱한 산문과 거짓말로 넘쳐나고 있다. 구글은 검색 엔진을 답변 엔진으로 대체하는 데 급급해 ‘피자에 접착제를 발라야 한다’라는 결과를 만들고 있다.

대중이 진정으로 원하는 것은 사람이 만든 콘텐츠를 찾아주는 검색 엔진, 적어도 사람이 만든 콘텐츠를 선호하고 AI가 만든 콘텐츠에 레이블을 붙이는 페이지랭크(PageRank) 시스템이다.

AI 워싱 현상은 착각에 기반한다. 사람은 기계가 모든 것을 만들고 통제하기를 바란다는 착각, AI를 추가하면 무언가가 자동으로 개선될 것이라는 착각, 사람을 고용하는 것이 기술의 실패를 의미한다는 착각이다. 실제로는 그렇지 않다.

AI에 대한 망상은 이쯤에서 충분하다. 판매자는 AI에 대해 진실을 말해야 하며, 구매자는 돈을 지불하는 제품과 서비스에 포함된 AI가 실제로 유용한 기능을 수행한다는 증거를 요구해야 한다. 기술 업계, 기술 고객 커뮤니티, 기술 언론에 종사하는 모두를 대표해 필자는 AI에 대한 가스라이팅을 멈춰달라고 말하고 싶다.
editor@itworld.co.kr

Mike Elgan editor@itworld.co.kr
저작권자 한국IDG & ITWorld, 무단 전재 및 재배포 금지