31살 한국 수학자, 컴퓨터 의존 없이 ‘60년 난제’ 해결…세계가 놀랐다

백진언 고등과학원 허준이수학난제연구소 박사(허준이펠로우). 고등과학원 ‘호라이즌’ 누리집 갈무리

미국 고등학교 교과서에 등장할 정도로 오래된 수학 난제를 풀어낸 한국인 수학자의 연구가 지난해 수학 분야에서 가장 주목할 만한 혁신 가운데 하나로 꼽혔다.

미국 과학잡지 ‘사이언티픽 아메리칸’은 최근 ‘2025년 가장 주목할 만한 수학 분야 10대 혁신’을 소개했는데, 그중 하나로 백진언(31) 고등과학원 허준이수학난제연구소 박사(허준이펠로우)의 ‘소파 움직이기’ 연구를 꼽았다.

‘소파 움직이기’는 폭이 1m(구체적인 단위는 중요하지 않음)이고 직각으로 꺾인 복도에서 막히지 않고 회전할 수 있는 가장 큰 평면도형은 무엇인지 묻는 문제다. 소파를 세우거나 기울이거나 분해할 순 없다. 이 문제는 1966년 캐나다의 수학자 레오 모저가 처음 제시한 이래 미국 고등학교 교과서에 단골로 등장하는 등 수학계의 대표 난제 가운데 하나로 꼽혀왔다.

지난 60여년 동안 이 문제에 대해 다양한 풀이가 제시됐지만, 수학적으로 확실하게 증명된 적은 없다. 1㎡ 크기의 정사각형은 복도를 통과할 수 있지만, 이를 늘려서 직사각형으로 만들면 통과할 수 없다. 따라서 곡선 형태를 도입하면서 그 면적을 넓히는 것이 문제 해결의 관건으로 꼽힌다. 영국의 수학자 존 해머즐리는 1968년 반원을 늘리고 모서리 부분을 잘라내어 유선 전화기의 수화기처럼 생긴 도형을 제시했다.

1992년 조셉 거버 미국 럿거스대 교수는 벽에 닿는 순서를 고려해 해머즐리가 제시한 도형을 좀더 정밀하게 깎아내어 면적을 아주 조금 더 늘린 답안을 제시했다. 거버가 제시한 도형은 18개의 곡선으로 이뤄져 있으며 그 넓이는 2.2195㎡다. 이는 여지껏 가장 유력한 답으로 평가받지만, ‘최적해’(optimal solution)인지는 증명되지 못한 상태였다. 모든 가구의 가능한 크기를 설명할 수 있는 보편적인 공식이 없어, 이보다 미묘하게 다른 곡선을 가지며 약간 더 큰 소파가 존재할 수 있는 가능성이 없다고 증명하는 게 어려워서다.

조셉 거버가 제시한 ‘소파 움직이기’ 문제의 해결 도형. 고등과학원 ‘호라이즌’ 누리집 갈무리

백진언 박사가 제시한 ‘소파 움직이기’ 문제에 대한 수학적 증명의 일부. 고등과학원 ‘호라이즌’ 누리집 갈무리

무려 7년 동안 이 문제에 매달렸던 백 박사는 2024년 12월 거버의 도형이 최적화된 도형이라는 것을 증명하는 내용의 논문을 논문사전공개사이트 ‘아카이브’(arXiv)에 발표해 전세계 학계의 주목을 받았다. 백 박사는 거버의 도형이 해당 조건을 만족하는 가장 큰 소파가 가져야 하는 최대값을 만족한다는 것을 수학적으로 증명했다. 사이언티픽 아메리칸은 백 박사의 해결책이 “전혀 컴퓨터에 의존하지 않았다는 점이 더욱 놀랍다”고 평가했다.

연세대 박사후연구원으로 재직할 당시 논문을 발표했던 백 박사는 지난해 8월 만 39살 이하의 젊은 수학자를 최대 10년간 지원하는 ‘허준이펠로우’로 선정됐다. 백 박사는 연합뉴스와 한 인터뷰에서 자신이 대학원 기간 수년을 한 문제에 몰입할 수 있던 것을 ‘축복’이라 평가하며 시간적 여유와 인내심을 제공하는 게 중요하다고 강조했다.

최원형 기자 circle@hani.co.kr

[한겨레 후원하기] 시민과 함께 민주주의를

겨울밤 밝히는 민주주의 불빛 ▶스토리 보기

▶▶한겨레 뉴스레터 모아보기