앵무새·뱀기름 같은 AI 서비스… 버블 이후 살아남는 게 진짜 AI

[책과 세상]
아르빈드 나라야난·사야시 카푸르 ‘AI 버블이 온다’

인공지능(AI)은 작동 원리가 너무 복잡해, 역설적으로 추상적 개념으로 대중의 머릿속에 각인됐다. 'AI 버블이 온다' 저자들은 뉴스 매체에 실리는 AI 관련 사진에는 기사 내용과 아무 상관없는 로봇이 많다고 지적한다. 게티이미지뱅크

대화형 인공지능(AI) 챗GPT 개발사 오픈AI는, 자사의 기업용 서비스를 쓰면 이전보다 하루 평균 40~60분 업무 시간을 절약한다는 보고서를 최근 발간했다. 서비스 이용자 약 9,000명을 설문한 결과다. 하루 8시간 근무를 가정하면 10% 이상 업무효율을 가져온 건데, 보고서가 나오자마자 미국 블룸버그통신은 “외부 학계의 동료 검증을 거치지 않은 자료”라고 신뢰성에 의문을 제기했다. ‘한 시간짜리 효율’에 천문학적인 돈이 투입된다는 현실을 감안하면 ‘이러고도 개발비를 쏟아 부을 일인가’ 싶기도 하다.

신간 ‘AI 버블이 온다’는 AI의 작동 방식이 너무 복잡하고 어렵기 때문에, 대단히 추상적으로 대중의 머릿속에 각인돼 있고 바로 그 지점이 작금의 거품론을 만들었다고 지적한다. 마치 세 살 꼬마가 타는 자전거도, 직장인들이 출퇴근 때 타는 버스도, 도널드 트럼프 미국 대통령이 해외를 찾을 때 타는 에어포스 원도 모두 ‘탈 것’으로 뭉뚱그려 말하는 것과 같은 부작용을 낳는다는 것.

AI 거품론의 분석 대상이 된 분야는 챗GPT와 같은 ‘생성형 AI’, 지능형 폐쇄회로(CC)TV와 같은 ‘예측형 AI’, 페이스북 같은 ‘콘텐츠 조정 AI’다.

우선 챗GPT와 같은 생성형 AI 평가. 미국 프린스턴대 정보기술정책센터 소속 컴퓨터 과학자인 두 저자는 생성형 AI의 유용성을 인정하지만, 진정한 ‘지능’이 아니라 통계 기법을 활용해 그럴싸한 문장을 만들어내는 ‘확률적 앵무새’라고 짚는다. 기술미디어 CNET는 AI 기자를 도입했다가 오류투성이 기사로 망신을 당했고, 미국에서는 변호사가 AI가 지어낸 가짜 판례를 법원에 제출했다가 자격 정지를 당하기도 했다.

채용, 범죄 예방, 의료 진단 등 기업들이 만병통치약처럼 도입하는 예측형 AI는 이 책에서 “현대판 뱀기름”으로 소개된다. 19세기 미국에서 팔린 기적의 자양강장제 뱀기름은 1906년 식품의약국(FDA)이 신설되기 전까지 누구도 부작용을 책임지지 않고 팔려 나갔다. 예측형 AI도 이와 비슷하게 부작용이 난무하지만 끊임없이 출시되고 있다. 시카고의 총기 탐지 시스템 ‘샷스포터’는 수백억 원을 들여 도입됐지만 범죄 예방 효과를 입증하지 못했고, 미국 최대 의료 기업 에픽(Epic)의 패혈증 예측 모델은 동전 던지기와 별반 다를 바 없는 정확도를 보였다. 기업들이 지금처럼 AI에 천문학적인 투자비를 태운다면 예측형 AI의 형편없는 성능은 개선될 게 분명하지만, 문제는 세상이 너무 빨리 변하기 때문에 AI가 파악해야 할 데이터의 양도, 들여야 할 투자금도 기하급수적으로 는다는 사실이다. 또한 세상은 변하기 때문에 100% 정확한 예측은 언제나 불가능하다.

소셜미디어가 추천 콘텐츠를 선정하는 알고리즘은 ‘도대체 이 기업의 추천 기준이 뭐냐’는 각종 비판을 피해 사용자별 특성을 분석해 자동 추천하는 ‘콘텐츠 조정 AI’ 방식으로 일반화됐다. 저자는 이 AI가 얼핏 중립적일 것 같지만, 기업의 의사결정 책임을 AI에 전가하면서도 콘텐츠 조회수를 늘리는 교묘한 방식으로 발전하면서 결과적으로는 극단적 성향의 콘텐츠를 더 많이 추천하고 있다고 지적한다.

그렇다면 각종 부작용을 피해 AI를 쓰지 않는 게 방법일까. AI가 ‘할 수 있는 일’과 ‘할 수 없는 일’의 경계선을 그어 ‘되는 기술’에 집중하고 ‘안 되는 기술’을 버려야 진정한 혁신이 가능하다는 게 저자의 결론이다. 무엇보다 각종 부작용을 대비한 기술에 투자해야, AI 거품이 꺼진 뒤에도 살아남는 진짜 기술이 될 수 있다고 충고한다.

AI 버블이 온다·아르빈드 나라야난, 사야시 카푸르 지음·강미경 옮김·윌북·420쪽·2만4,800원

이윤주 기자