“AI 제대로 알고 싶다면 이 책 추천합니다”

작가 스티븐 마르쉐 뉴욕타임스 기고
정렬문제, 진보적 자유주의 등 추천

작가 스티븐 마르쉐가 뉴욕타임스에 ‘인공지능(AI)’과 관련해 추천할 만한 책을 소개했다. 그는 “AI에 대한 담론은 상당 부분 형편없다”라며 “다만 기본적인 질문에 대한 답은 정확하게 알아야 한다. 어떻게 작동하고, 어디에서 왔으며 어디로 가고 있는가. 이러한 것들이 전문 언어 속에 갇혀 있는 경향이 있다”라고 지적했다. 그러면서 AI와 관련된 일부 책들이 “우리 모두 죽을 거야” 또는 “부자가 되는 법”과 같은 경향으로 나오고 있다며 “이러한 것들을 무시하면 AI에 관한 좋은 책을 찾을 수 있다”라고 덧붙였다.

정렬문제(Brian Christian)

정렬문제 표지, 아직 한국에는 출판되지 않았다.

그가 첫 번째로 소개한 좋은 책은 2020년 출간된 ‘정렬문제(Brian Christian)’다. 그는 “이 책은 2020년에 출판됐지만 그 이후에 출판된 모든 책과 비교했을 때 더 공정하고 빛을 발휘한다고 생각한다”라며 “이 책의 중요한 가치는 컴퓨터 과학자, 인지 심리학자, 철학자들이 했던 일에 대한 면밀한 조사”라고 전했다. 저자는 AI의 문제는, AI가 세상을 종말로 이끄는 게 아니라 기계의 행동을 인간의 가치와 어떻게 ‘정렬’할 수 있는지를 결정하는 것이다. 마르쉐는 “저자는 문제는 기계뿐만이 아니라 사람이라고 지적한다”라며 “기계와 인간의 가치를 일치시키려면 우리는 인간의 가치가 무엇인지 알아야 하는데 이러한 지식은 상당히 모호하다”라고 적었다. 이 책은 AI를 과학 발전의 승리로, AI 안전을 위한 선언문으로 만들어 주지만 동시에 현실적으로 ‘정렬은 엉망이 될 것’이라고 결론짓는다.

인공지능(Melanie Mitchell)

인공지능 책 표지. 한국어로 출간되지 않았다.

두 번째 책은 2019년 출판된 ‘인공지능(Melanie Mitchell)’이다. 마르쉐는 “이 책은 AI 서적의 ‘혼다 시빅’”이라며 “신뢰할 수 있고 내구성이 뛰어나다”라고 평가했다. 그는 “저자는 AI는 혼란에 빠져있다. 엄청난 진전이 있었거나, 아니면 전혀 진전이 없었거나 둘 중 하나라고 지적한다”라며 “책을 읽고 나면 자신이 모르는 것과 다른 사람들이 안다고 주장하더라도 모르는 것이 무엇인지 알게 될 것”이라고 평가했다.

알고리즘, Hilke Schellmann)

알고리즘 표지. 한국에 출판되지 않았다.

세 번째는 올해 출간된 ‘알고리즘, Hilke Schellmann)’이다. 이 책은 AI가 가진 이점과 잠재적인 남용에 관해 설명한다. 저자는 인간이 사람을 대할 때 얼마나 무능한지를 생각하면서 AI에 대해 희망을 느꼈다고 생각했다. AI를 이용하면 편향된 사람 채용을 해결할 수 있다고 믿었다. 하지만 “일부 회사는 편향된 알고리즘으로 위험한 고용 결정을 내리고 있다”라며 “AI는 인간의 한계에서 우리를 해방하지 못한다”라고 주장한다.

진보적 자본주의 표지, 한국에 출판되지 않았다.

네 번째 저서는 2022년 나온 ‘진보적 자유주의(Ro Khanna)’다. 민주당 당원인 저자는 새로운 기술로 전환이 불가피한 경제, 사회적 상황에 어떻게 대처해야 하는지를 제시한다. 강력한 법적, 윤리적 장치 없이 인터넷이 허용됐지만 AI의 등장과 관련해 같은 실수를 해서는 안된다라고 지적하는 저자는 ‘기술 허브’를 제안하여 A 혜택이 광범위하게 확산하여야 한다고 이야기한다.

AI 2041(Kai-Fu Lee and Chen Qiufan)

AI2041, 한국에서도 같은 제목으로 출판됐다.

마지막으로 2021년 나온 ‘AI 2041(Kai-Fu Lee and Chen Qiufan)’이다. 벤처 투자가와 공상과학 작가가 함께 쓴 이 책은 검증할 수 있는 정보로부터 ‘판타지’를 분리한다. 논픽션이지만 거짓말이 아니며 ‘허구’는 사실에 의해 뒷받침된다. 마르쉐는 “다른 책에서 AI에 대한 설명은 터무니없이 기술적이거나 유치한 경향이 있다”라며 “AI 2041은 두 가지 위험을 피하는 영리한 방법을 발견했다”라고 평가했다.

그는 “AI에는 두려움, 탐욕보다 더 많은 것들이 있다”라며 “다섯권의 책은 불확실성을 다루기 위해 필요한 겸손함을 지니고 있다”라고 적었다. 이어 “모두 AI의 가장 이상한 측면을 드러내고 있는데 그것은 바로 사람의 문제”라며 “AI의 진정한 재능은 인간의 한계와 결함에 대해 드러내는 것이지 기계의 한계와 결함에 대해 드러내는 것이 아니다”라고 마무리했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]