대수기하학의 ‘K3곡면’ 난제에 돌파구 뚫다

2018 세계수학자대회(ICM)가 그해 8월 브라질 리우데자네이루에서 열리고 있다. 대회조직위원회 누리집 갈무리

2018년 세계수학자대회(ICM)는 1897년 1회 대회 이후 처음으로 남미(리우데자네이루)에서 열렸다. 브라질의 떠오르는 신예 수학자이던 아르투르 아빌라가 2014년 필즈상 수상이 유력하다는 소문이 있던 차여서 브라질은 2014년 개최를 강력하게 희망했으나 캐나다 및 한국과의 유치 경쟁에서 한국에 밀렸고, 아빌라는 그해 고국이 아닌 서울에서 필즈상을 받았다. 브라질은 대회 개최 1년 전 불가피한 사정으로 애초 유치 지원서에서 약속한 개최 장소를 변경했다. 브라질의 높은 범죄율 때문에 대회 참석자가 적을 거라는 연맹의 우려도 있었다. 그런 까닭에 나는 2017년 봄에 국제수학연맹(IMU)의 점검 위원으로 리우데자네이루를 방문한 적이 있어 나름 친숙한 곳이었다.

‘미래세대 수학교육’이라는 화두

2018년까지 4년 동안 나는 국제수학연맹의 11인 집행위원 중 한명이었다. 집행위원회에서 내가 맡은 역할 중 하나는 개발도상국의 수학 발전 지원을 조정하는 업무였다. 재정적 어려움을 겪는 나라들의 젊은 수학자들을 지원하는 것에 관심이 컸다. 브라질에선 현지에서 만난 수학자들을 대상으로 미래 세대를 위한 수학 교육의 화두에 대한 의견을 들었다. 이 과정에서, 수학 교육의 개선이 세계 여러 나라에서 뜨거운 이슈이고, 그것이 한국뿐 아니라 프랑스 같은 나라에서도 수시와 정시의 비율 조정 같은 입시 개혁과 맞물려 있다는 것을 알게 됐다. 미국 캘리포니아주에서는 기존의 수학 내용을 줄이고 데이터 관련 내용을 늘리는 등의 교과 내용 개혁이 뜨거운 감자라는 것도 알게 됐다.

한국의 대학수학능력시험(수능) 문제 중에 소위 킬러 문항들을 영어로 번역해서 보여주고 의견을 들었는데, 수학적 깊이나 이해도와는 거리가 있어 보이고 단순히 문제를 꼬아 놓은 것으로 보인다는 의견이 많았다. 어린 학생들의 수학 교육에 대한 의견을 준 수학자들은, 해야 할 것보다는 하지 말아야 할 것을 얘기하는 경우가 많았다. 첫째는 아이들에게 수학을 가르칠 때 답을 절대 먼저 주지 말라는 것이고, 둘째는 아이들의 실수를 꾸짖지 말라는 것이었다. 우리나라 입시 문제의 대부분을 차지하는 객관식 문제에서는 99% 맞아도 1%만 틀리면 답이 틀리게 되고 아이들은 실수를 두려워하게 되는데, 그러면 실수를 안 하는 식으로 공부하게 되고 당연히 수학이 재미없는 과목이 된다는 것이다.

2014년 서울 대회의 필즈상 수상자 4명 중 3명이 고등학생이던 1995년에 한자리에서 만났었다고, 본인들도 신기하다고 하던 기억이 난다. 국제수학올림피아드대회에서 경쟁하면서 만났는데 19년 만에 한날 한 장소에서 같이 필즈상을 받은 것이다. 19년 만에 재회한 이들이 공통으로 강조한 것은 청소년 시기의 자신감이었다. 특히 이슬람 문화권(이란) 출신인 마리암 미르자하니는 칭찬에 인색한 문화에서 자기가 수학을 못한다는 생각을 자주 했고 수학을 싫어하게까지 됐는데 결국 국제대회에서 두각을 나타내고 주위에서 칭찬을 받으면서 새로운 자신감이 생겨서 그 힘이 자기를 여기까지 이끌고 왔다고 했다. 그래서 아이들이 경쟁도 하고 즐기기도 하는 채널을 자꾸 열어줘야 한다는 생각이 든다. 브라질의 아빌라는 남미 최초의 필즈상 수상자인데. 그는 16살에 임파(IMPA)라고 하는 수학연구소에 학생으로 받아들여졌고, 5년 만인 21살에 박사 학위를 받았다. 비상한 천재에게는 비상한 교육 과정을 제공하는 것도 중요한 것 같다.

성장통은 당연…재능 꽃피우게 도와야

금종해 고등과학원 석학교수. 연합뉴스

2006년 마드리드 대회에서 시작된 한국인 수학자의 초청강연은 브라질에서도 이어졌다. 금종해, 박병욱, 허준이 등 3명이 주인공이었다. 금종해는 대수기하학의 곡면 이론에서 주목받는 업적을 냈다. 통상의 기하학을 할 때 사용하는 수는, 그걸로 사칙연산도 하고 다항식도 풀 수 있어야 한다. 우리가 보통 사용하는 유리수나 실수만 가지고는 다항식을 풀 수 없는 경우도 있으므로, 이런 게 모두 가능한 수인 복소수가 기하학을 하기에 가장 좋은 수라고 볼 수 있다. 이런 이유로 19세기부터 연구된 리만곡선 이론 등은 모두 복소수를 가지고 하는 기하학이다.

그런데, 현대 컴퓨터 시대가 오면서 2진법 수 등 유한 집합으로 이루어진 수들을 가지고 하는 기하학에 관심이 높아졌다. 1970년에 필즈상을 받은 히로나카 헤이스케의 주요 업적은 특이점이라고 불리는 나쁜 점들을 가진 기하적 물체도 높은 차원에 있는 좋은 물체의 투영으로 볼 수 있다는 것인데, 이 업적도 유한특성체(유한한 수라고 보면 됨) 위에서는 아직 우리의 이해가 높지 않다. 금종해의 주요 관심사였던 ‘케이 스리(K3) 곡면’의 경우에도 복소수 위에서는 많은 것이 알려져 있는데, 유한특성체를 가지고 다루게 되면 상당히 상이한 일들이 일어나게 되고 전통적인 방법으로는 접근이 어렵다. 그는 학위 지도교수였던 이고르 돌가체프와 공동 연구로 이 문제에 돌파구를 만들었고, 2008년 한국과학상을 받았다.

박병욱 서울대 교수. 박병욱 교수 제공

박병욱은 통계학자다. 통계학은 수학의 한 분야로 여겨졌었지만, 지금은 거대 분야로 독립한 유관 분야로 보는 경우가 많다. 빅데이터 시대를 맞아 그 쓰임과 중요성이 크게 늘고 있고, 세계수학자대회에서도 18~20개 분과 중에 통계확률 분과가 유지되고 있다. 국내 통계학이 실험적이고 계산적인 측면이 강하다는 통념이 있는 상황에서, 한국인 통계학자로는 현재까지 유일하게 세계수학자대회 초청강연자가 되었다. 2019년 인촌상을 수상했다.

허준이 고등과학원 석학교수. 연합뉴스

허준이는 이제 설명이 필요하지 않을 만큼 유명인이다. 2018년에도 필즈상의 강력한 수상 후보자로 거명됐지만, 그땐 조합론 분과의 초청강연으로 만족해야 했다. 조합론의 오랜 난제들을 대수기하학의 방법론으로 접근하여 해결하고, ‘조합론적 대수기하’를 새롭게 건설하는 경지에 다다른 그의 업적은 별도로 다룰 예정이다. 허준이는 국내에서 모든 교육을 받았다. 초·중학교 때 교과서 수학에는 큰 관심이 없었지만 게임, 퍼즐처럼 논리력을 요구하는 문제들에 심취했다. 고등학교 시절에는 수학을 “굉장히 재미있어했고, 열심히 했고, 충분히 잘했다”고 한다. 고등학교와 대학에서 학교생활에 적응하지 못해 좌절하거나 돌아가기도 했지만, “그 굴곡진 과정이 나중에 보니 최적의 길이었다”고 고백하기도 했다. 누구나 성장통을 겪는 건 당연하다. 중요한 것은 우리 사회와 교육 시스템이 그런 성장 과정을 용인하고 재능을 꽃피울 수 있도록 지원해줄 수 있는가이지 않을까.

아주대 교수

서울대 물리학과 졸업 후 미국 유시(UC)버클리에서 수학 박사 학위를 받았다. 고등과학원·포항공대 교수를 지냈고 아주대 총장을 역임했다. 2014년 세계수학자대회 조직위원장과 한국인 최초의 국제수학연맹 집행위원도 맡았다.

▶▶권력에 타협하지 않는 언론, 한겨레 [후원하기]

▶▶한겨레 뉴스레터 모아보기

▶▶행운을 높이는 오늘의 운세, 타로, 메뉴 추천 [확인하기]