美석학 “노벨상 석권한 AI, 수학도 혁신...인류 지식 뛰어넘는다”

18일 제41회 대한민국학술원 국제학술대회
러셀 카플리쉬 뉴욕대 수학연구소장 기조강연
AI 위험성 크지 않아...미래에 더 큰 진보

18일 서울 서초구 대한민국학술원에서 열린 ‘제41회 대한민국학술원 국제학술대회’에서 러셀 카플리쉬 미국 뉴욕대 쿠란수학연구소 소장이 발표하고 있다. [사진=이충우 기자]

지난 7월 영국에서 열린 국제수학올림피아드(IMO)에 특이한 참가자가 등장했다. 바로 인공지능(AI)이다. 구글 딥마인드의 수학 추론 AI ‘알파프루프’는 놀라운 실력을 자랑했다. 올해 문제 6개 중 4개를 풀어냈다. 은메달 수준의 성과였다.

올해 노벨 물리학상과 화학상을 석권하며 파란을 일으킨 AI가 수학 분야에서도 혁신을 일으키고 있다는 해외 석학의 분석이 나왔다.

러셀 카플리쉬 미국 뉴욕대 쿠란수학연구소 소장은 18일 서울 서초구 대한민국학술원에서 열린 ‘제41회 대한민국학술원 국제학술대회’ 기조연설자로 참여해 “AI는 새로운 수학적 증명을 구성하고 기존 증명을 검증하기 위한 논리를 만들어내는데 쓰이고 있다”며 “인간이 가진 지식의 한계를 넘어설 가능성이 높다는 것을 입증하고 있다”고 강조했다.

사람의 머리를 대신해 수학 문제를 푼 것은 컴퓨터가 처음이다. 가장 잘 알려진 예는 ‘4색 문제’의 증명이다. 4색 문제는 지도 위 모든 나라를 색칠하는데 인접한 나라끼리 색이 겹치지 않게끔 칠하려면 4가지 색만으로 충분한 지 따지는 문제다.

2차원(2D) 평면에서 국가에 색을 할당할 때 인접한 두 나라가 동일한 색을 가지지 않도록 하는 것이 가능하냐는 것이다. 이 문제는 컴퓨터를 통해 최초로 증명됐다. 케네스 애플과 울프강 하케은 수천 가지의 경우를 컴퓨터로 확인해 문제를 풀어냈다.

카플리쉬 교수는 AI로 인해 컴퓨터가 수학 문제를 풀어내는 능력이 급진적으로 높아지고 있다고 평가했다. 그는 “AI는 수학적 명제와 논리를 정확하게 공식화해 새로운 증명을 도출하고, 기존의 증명을 검증하고 있다”며 “또 인간 수학자들이 수학적 지식을 체계화하고, 수학적 원칙을 공식화하며, 수학적 논증을 검증하는데도 도움을 주고 있다”고 말했다. 수학의 A-Z까지 모두 AI가 개입해 도움을 주고 있다는 것이다.

카플리쉬 교수는 AI의 성과가 사람이 내놓는 성과와는 다른 성격을 보인다는 점도 강조했다. 그는 “AI의 성과는 인간의 성과와는 형질이 다르다”며 “그렇기 때문에 AI는 미래에 더 진전하면서 동시에 사람이 예상치 못하는 놀라운 방향으로 성장할 것으로 보인다”고 내다봤다.

예를 들어 AI는 기후과학에서 혁신적인 성과를 내고 있다. 지구 기후 예측은 과거와 현재의 기후, 특히 해양 및 대기 조건의 측정과 이런 조건을 기반으로 미래 기후를 계산하는 수학에 기반을 둔다. AI가 이 계산의 효율성을 높이고 있다는 것이다.

카플리쉬 교수는 “해양 내부 해류와 온도는 기후 예측에 아주 중요한 데이터다. 그러나 해류 측정은 주로 표면에서 이뤄져 이를 알 수 없다”며 “AI는 수학적 계산을 통해 내부 해류와 온도까지 알아내고 있다”고 말했다.

여러 학자들은 AI 위험성에 대해 경고하고 있다. 올해 노벨 물리학상을 받은 ‘AI 대부’ 제프리 힌튼 캐나다 토론토대 교수가 대표적이다.

카플리쉬 교수는 이런 전망에 동의하지는 않았다. 그는 “AI로 인해 위험에 직면했다고는 생각하지 않는다”며 “AI는 미래에 더 많은 진보를 이룰 가능성이 높다고 본다”고 말했다.

이날 학술대회는 ‘빅데이터와 AI 진흥을 위한 데이터과학과 데이터산업의 도전과 전략’을 주제로 열렸다. 카플리쉬 교수 외에도 쿠로하시 사다오 일본 국립정보학연구소 소장과 홍 치아오 중국과학원 교수 등 해외 석학이 참여해 빅데이터와 AI가 확의 미래에 미치는 영향에 대해서 논했다.

국내 석학으로는 이광형 한국과학기술원(KAIST) 총장과 장병탁 서울대 인공지능(AI)연구원장 등도 참여했다.

사다오 소장은 AI 발전을 위해서는 개방형 연구환경을 마련해야 한다고 제안했다. 그는 “현대 사회는 환경 문제, 불평등, 지역 분쟁 등 복잡하고 상호 연관된 문제에 직면해 있다”며 “이런 문제를 극복하려면 경쟁에서 공동 창조로, 폐쇄에서 개방으로 사고방식을 근본적으로 전환해야 한다”고 말했다.

일본은 이미 이런 움직임을 가져가고 있다고도 소개했다. 2023년 ‘LLM-jp’ 라는 이니셔티브를 구성해 연구자가 모두 함께 대규모 언어 AI 모델을 구축 중이다. 처음에 30명으로 시작했으나 현재 1600여명의 연구자가 참여 중이다.

사다오 소장은 “일본에서 전례가 없는 규모의 오픈 사이언스 혁신 활동”이라며 “인간이 AI와 공존하는 사회를 더 잘 설계하기 위해 오픈사이언스가 필요하다고 느꼈다”고 말했다.

이장무 대한민국학술원 회장은 “데이터 과학과 AI 기술의 최신 동향에 대한 귀중한 통찰을 나누는 자리였다”며 “빅데이터와 AI 진흥과 관련한 중요한 담론을 다루는 의미있는 시간이 됐다”고 밝혔다.

이장무 대한민국학술원 회장이 인삿말을 하고 있다. [사진=이충우기자]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]