[책과 삶]압도적 크기에도 정체를 알 수 없는 ‘무한’에 도전

무한을 넘어서유지니아 쳉 지음·김성훈 옮김열린책들 | 384쪽 | 1만8000원

수학에서 가장 알쏭달쏭 개념

길이·수량 등을 연상하지만

자연수로는 설명되지 않는다

저자는 수학을 ‘레고’에 비유

“쌓아 올리는 견고함 속에서도

창의력을 펼칠 융통성 갖춰”

일상 속에서 ‘무한’ 읽어내며

‘쓸모’보다 ‘넓은 시야’ 강조

‘수포자’도 솔깃한 수학 이야기

“우리의 삶은 유한하고, 우리의 뇌도 유한하고, 우리의 세상도 유한하지만 그럼에도 우리 주변에서는 언뜻언뜻 무한이 얼굴을 드러낸다.”

이 문장만 놓고 보면 어느 분야에 속한 책인지 감을 잡을 수 없다. 철학자 또는 신학자가 인간의 유한성에 대해 사유하는 글로 봐도 무방할 것 같다.

<무한을 넘어서>(원제 Beyond Infinity)는 속기 쉬운 책이다. 속아서 언짢다는 건 아니다. ‘고차원 범주론’이라는 도무지 정체 모를 분야를 연구하는 수학자의 저서임에도, 군데군데 ‘수포자’도 홀릴 만한 매혹적인 대목들이 많다는 것이다. 물론 저자가 무한의 정체를 알려주겠다며 수학적 논증을 펼치는 부분에 이르면 어쩔 수 없이 길을 잃기도 한다. 그런데 얼마 지나지 않아 아름답게 쓰인 문장들이 ‘구원’처럼 찾아온다.

서두에서 인용한 문장에 앞서 나오는 문단, 그러니까 1장의 첫 문단은 이렇다. “무한(Infinity)은 네스호의 괴물이다. 경외감을 불러일으키는 압도적인 크기를 갖고 있으면서도 그 정체를 분명히 알 수 없어 사람들의 상상력을 끊임없이 사로잡기 때문이다. 무한은 꿈이며, 시간과 공간이 무한대로 펼쳐져 있는 광활한 판타지의 세계다. 무한은 예상치 못했던 생명체, 뒤엉킨 덤불, 그리고 그 사이로 갑자기 쏟아져 들어오는 햇살이 어우러진 캄캄한 숲이다. 그리고 무한은 닫혀 있다가 활짝 열리면서 끝없이 이어지는 나선을 드러내는 루프(loop)다.” 무한에 대한 원초적 호기심을 마구 자극하지 않는가.

수학에서 무한은 알쏭달쏭한 개념 중 하나다. 길이, 크기, 양 등 여타의 수학적 개념들과 비슷하면서도 결코 이들에 포함되지 않기 때문이다. 무한에 1을 더하면? 당연히 무한이다. 수식으로 표현하면 ‘∽+1=∽’다. 그런데 방정식 원리에 따라 양변에서 무한을 빼면 어떻게 될까? ‘1=0’이라는 터무니없는 결과가 나온다.

이처럼 무한은 수학 안에 있는 동시에 바깥에 있는 대상이다. 영국 셰필드대와 미국 시카고 아트 인스티튜트에 적을 두고 있는 수학자 유지니아 쳉은 그래서 수의 본질을 설명하는 일부터 시작한다. 자연수, 정수, 유리수, 무리수, 숫자 세기, 기수와 서수…. 안타깝게도 대다수 한국의 ‘정규’ 교육에서 수의 기본 개념에 대해 차근차근 가르치는 일은 극히 드물다. 친절한 선생님 같은 저자의 설명을 따라가며 ‘수란 무엇인가’를 익힌 다음에는, 세상에 널려 있는 무한의 풍경으로 여행을 떠날 차례다.

사실 이 책의 내용을 요약하는 것은 무의미할지도 모른다. 저자보다 더 쉽고 정확하게 무한의 정체를 설명할 자신도 없다. 그래도 무한을 파악하는 데 핵심적인 길잡이 역할을 하는 ‘힐베르트 호텔’에 대해서는 간단히 적는 편이 좋겠다. 무한에 관한 수수께끼들을 생각해 낸 수학자 다비드 힐베르트의 이름을 딴 힐베르트 호텔은 객실이 무한히 많다. 그러니까 방 번호가 1부터 무한대의 자연수로 이어지는 호텔이다.

객실이 꽉 차 있는 상태에서 새로운 손님이 오면 어떻게 해야 할까.

무한 호텔에서는 기존 손님들이 한 칸씩 방을 옮기면 된다. ‘n’번 방 손님이 ‘n+1’번 방으로 이동하는 식이다. 그런데 무한한 수의 손님이 호텔에 온다면 어떨까. 방 번호는 유한한 수로 표시되어야 한다. 먼저 기존 투숙객에게 원래의 방 번호에 2를 곱한 방(‘2n’번 방)으로 옮기도록 한다. 모두 짝수 번호의 방에 들어가게 된다. 그러면 홀수 번호의 방은 모두 비어 있기 때문에 새로 온 손님은 ‘2n-1’번 방으로 가면 된다.

힐베르트 호텔에서는 이런 식으로 새로 온 손님을 배정할 수 있다. 하지만 모든 경우의 수를 충족하지 않는다는 함정이 존재한다.

정수나 유리수가 아닌 무리수, 즉 π나 0.9999…번 방이 있다고 치면, 자연수 방 번호로 이뤄진 힐베르트 호텔에 수용하는 것은 불가능하다. 무리수는 유리수보다 월등히 많기 때문이다. 무한 안에 자연수, 정수, 유리수 등으로 이뤄진 ‘수 주머니’를 만들면 서로 짝이 맞는다. ‘가산성’을 지니는 것이다. 반면, 무리수는 이에 포함되지 않아 ‘더 큰 무한’이 된다.

다시 말해 무한에도 ‘위계’가 있는 셈인데, 이미 머리가 지끈거린 지 오래다. 실은 저자의 다음과 같은 표현에 ‘낚여서’ 힐베르트 호텔을 이해해보려고 애썼던 것인데. “수학이라는 ‘장난감’도 레고와 비슷하다. 무언가를 쌓아 올릴 수 있는 견고함을 갖추고 있으면서도 한편으로는 여러 가지 가능성을 펼칠 수 있는 융통성도 있어야 한다.”

디즈니 만화 캐릭터 곰돌이 푸와 피그렛은 상상 속 코끼리 ‘헤파럼프’의 발자국을 추적하기 위해 나무 주위를 여러 번 돌다가 결국 자기들의 발자국임을 깨닫는다. 수학자 유지니아 쳉은 <무한을 넘어서>에서 이 장면이 ‘무한’의 개념을 뜻한다고 설명한다.

수학을 레고에 비유하다니, 아무래도 저자는 딴 세상 사람 같다. 하지만 난공불락의 학문을 좀 더 친근하게 이미지화하는 데는 성공한 것 같다. 그러고보니 추상적 개념을 가지고 이리저리 문제를 해결하는 수학자의 작업과, 레고 블록을 포갰다가 허물어뜨리고, 다시 쌓는 과정이 비슷한 것도 같다.

때로 저자는 수학을 문학에 빗대어 표현하기도 한다. 방정식으로 풀 수 없는 무한이라는 개념을 놓고, 저자는 소설가들이 무한히 사는 불멸의 존재나 무한히 빠르게 이동하는 순간이동을 상상하는 경우를 떠올린다. “소설 속에 영원히 죽지 않는 인물이 등장하는 경우, 그 이야기는 주인공이 우리의 삶에 의미를 부여해 주는 것이 실은 삶의 유한성이었음을 깨달으면서 끝나는 경우가 많다.”

그는 셰익스피어 희곡 <말괄량이 길들이기>에 나오는 대사에서도 무한을 읽어낸다. “이것이 주인님께서 찾던 것이 아니라면 저도 더 이상은 드릴 말씀이 없습니다. 비앙카 아가씨에게 영원하고도 하루 더 작별을 고하실밖에요.” 이에 대해 저자는 셰익스피어가 영원을 뜻하는 ω(오메가)보다 더 큰 ω+1, 즉 무한 중에도 더 큰 무한이 있고 기수가 아닌 서수인 경우에는 무한의 앞쪽이 아닌 뒤쪽에서 1을 더해야 한다는 사실을 알았다는 증거라고 말한다.

올해 들어 눈에 띄게 늘어난 수학 책들 중에는 수학의 ‘응용’이나 현실 적용에 관심을 가지는 경우도 제법 있다. 저자는 다르다. 수학의 ‘쓸모’를 따지는 일에는 그리 관심이 없다. “무언가로부터 한 걸음 뒤로 물러나 그것을 더 넓은 시야에서 바라볼 수 있게 해주는 것이 바로 수학의 쓸모”라고 말하는 사람이다.

한데 책 속에는 알아두면 이야깃거리로 써먹기 좋은 에피소드들도 더러 있다. 애플은 아이팟의 셔플(임의재생) 기능을 활용하면 “240곡을 100만가지 다른 방식으로” 들을 수 있다고 광고한다. 하지만 저자가 지하철에 앉아서 “순전히 재미로 계산해 보았”더니, 10곡만 있어도 대략 300만가지 방식으로 노래를 들을 수 있었다고 한다.

책을 읽으면서 가장 많이 한 생각은 학창 시절 이런 식으로 수학을 처음 접했더라면 수학을 대하는 태도가 조금은 달라지지 않았을까였다. 뒤늦게나마 수학의 재미를 알아보고 싶다는 욕구를 불러일으킨다는 점에서, 이 책은 수학 교양서로서 제 역할을 다한다. 특히 시간 차원 이동을 설명하는 부분은 잠시나마 물질세계 너머를 상상하게 만든다.

무한에 관한 탐험을 마무리하는 저자의 방식도 재치 있다. 그는 자기에게 주어진 시간이 무한하다면 보다 자유롭고 창조적으로 사고하며 수학적 정리를 풀 수 있겠지만, 자신이 불멸의 존재라면 “빈둥거리며 영원히 질질 끌 것”이라고 말한다. 마감을 의식하며 책을 보다가 이 부분에서 웃음을 터뜨리고 말았다. 시간이 부족해 내용을 제대로 이해하지 못했을 수도 있지만, 무한한 차원에서 무한하게 시간이 주어졌더라면 이 책은 아마도 영영 읽지 않았을지도 모른다.

김유진 기자 yjkim@kyunghyang.com

▶ 경향신문 SNS [트위터] [페이스북]
▶ [인기 무료만화 보기]
▶ [카카오 친구맺기]

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지