美 교과서에도 실린 수학 난제, 한국 수학자가 풀었다

60년간 해결 못한 최적화 문제

기하학-컴퓨터프로그래밍 등 활용

백진언 연세대 연구원이 최초 증명

백진언 연세대 연구원이 ‘소파 움직이기 문제’의 답으로 증명한 소파의 모양. 위 그림은 복도 위치를 고정하고 소파를 움직일 때, 아래 그림은 소파의 위치를 고정하고 복도를 움직일 때를 나타낸다. 백진언 연구원 제공

국내 20대 수학자가 미국 고등학교 수학 교과서에 등장할 정도로 잘 알려진 60년 난제를 해결해 수학계에서 크게 주목받고 있다.

백진언 연세대 수학과 연구원(29)은 ‘소파 움직이기 문제’를 해결한 결과를 지난달 29일 논문 사전 공개 사이트 ‘아카이브’에 공개했다.

논문이 공개된 후 세계 유명 수학자들은 소셜네트워크서비스(SNS)에 백 연구원의 논문을 공유하고 과학 전문 영국 온라인 매체 ‘뉴사이언티스트’ 등 외신은 연구 결과를 보도하며 흥분하고 있다. 현재 백 연구원의 논문은 검증 과정을 거치고 있다. 소파 움직이기 문제는 최적화 문제 해결이 중요한 로봇, 통신 분야 등에 활용될 수 있다. 수학자가 아니더라도 누구나 쉽게 이해할 수 있어 수학적 사고력을 키우기 위해 미국 고등학교 교과서에 단골로 등장하는 문제다.

문제 내용만큼 해결은 간단하지 않다. 문제가 등장한 이후 약 60년 동안 여러 개의 답이 제시됐지만 확실하게 증명된 적이 없다. 1968년 영국 수학자 존 해머즐리가 자신 있게 제시한 소파가 대표적이다. 그는 넓이 2.2074의 전화기 모양 소파를 고안해 제시했다. 변의 길이가 각각 1과 π분의 4인 직사각형에서 반지름 π분의 2인 반원을 파냈다. 그런 뒤 양쪽에 반지름이 1인 4등분한 원 2개를 붙여서 전화기 모양의 소파를 만들었다.

1992년 미국 수학자 조지프 거버는 해머즐리의 소파를 발전시켜 2.2195라는 더 큰 면적 값을 구했다. 소파가 벽에 닿는 순서를 고려해 소파의 경계를 따라 일부분을 아주 얇게 깎고 다른 부분을 살짝 두껍게 해 넓이를 키웠다. 거버의 소파에는 총 18개의 곡선 부분이 들어간다. 백 연구원은 거버의 소파가 정답이라는 사실을 이번에 증명한 것이다.

백 연구원은 거버의 소파를 포함해 소파 움직이기 문제의 답일 가능성이 높은 소파들을 분석해 가장 큰 소파가 가져야 하는 속성을 먼저 알아냈다. 이 같은 속성을 만족하려면 소파가 ‘Q’라는 수학적 양을 가져야 한다는 점을 밝혀낸 뒤 거버의 소파가 Q의 최댓값을 만족한다는 것을 증명해야 한다. 백 연구원은 조합론, 기하학, 컴퓨터프로그래밍 등 서로 다른 지식을 이용해 증명해 냈다.

김재훈 KAIST 수리과학과 교수는 “소파 움직이기 문제는 주어진 조건 속에 최적의 답을 찾아내는 ‘최적화 문제’로 공간에서 물체가 움직이는 방식에 대한 인간의 이해를 더 발전시켜 주는 문제”라면서 “공간을 이해하기 위해 선형대수, 군론, 기하학 등 여러 수학 분야가 발전했는데도 간단해 보이는 문제의 답을 구할 수 없다는 점은 공간에 대한 인간의 이해가 아직 많이 부족하다는 것을 보여준다”고 설명했다.

7년 전부터 소파 움직이기 문제에 도전한 백 연구원은 “오랜 기간 내세울 결과 없이 혼자 연구해야 했던 점이 어려웠다”면서 “학창 시절 국제수학올림피아드 국가대표가 되기 위해 오랫동안 수학 문제를 생각하는 연습을 하면서 포기하지 않고 문제를 푸는 힘을 길렀고 이번 성과를 내는 데 그 힘이 큰 도움이 됐다”고 말했다.

소파 움직이기 문제

폭이 1이고 직각으로 꺾인 복도를 지나갈 수 있는 가장 면적이 넓은 평면도형은 무엇인지 묻는 문제다. 단, 소파를 세워서 이동하거나 분해하거나 기울일 수 없다. 1966년 캐나다의 수학자 레오 모저가 제시했다.

이채린 동아사이언스 기자 rini113@donga.com

ⓒ 동아일보 & donga.com, 무단 전재 및 재배포 금지