'인간의 뇌' 한걸음 더 다가갈까···양자AI 알고리즘 국내연구진 개발 성공

이준구 KAIST교수팀-독일 및 남아공 협력연구 성과

비선형 커널 통해 적은 계산량으로도 복잡한 연산 풀어

국내 연구진이 기존의 인공지능(AI)을 뛰어넘는 양자AI 알고리즘을 국제협력연구를 통해 개발하는 데 성공했다.

한국과학기술원(KAIST)은 본원의 이준구 전기및전자공학부 및 AI 양자컴퓨팅 IT 인력양성연구센터 교수팀이 이 같은 ‘비선형 양자 기계학습 AI 알고리즘’을 개발했다고 7일 밝혔다. 또한 해당 알고리즘을 IBM클라우드 서비스를 통해 실제 양자컴퓨터에 적용해 양자 지도학습을 시연하는데 성공했다고 덧붙였다. 이번 연구는 독일 및 남아공 연구팀과 협력해 이뤄졌다.

기존의 AI들은 데이터를 0 또는 1의 숫자로 표현하는 비트(bit) 방식의 고전적 디지털 컴퓨터에 기반을 두고 있다. 반면 양자AI는 0과 1을 동시에 중첩해 표현할 수 있는 큐비트(qubit) 방식의 AI컴퓨터에 기반을 두고 있어 계산속도가 훨씬 빠르다. 다만 AI컴퓨터는 1차 방정식을 잘 푸는 선형적 성질을 갖고 있어서 복잡한 데이터를 다루는 비선형적 기계학습(머신러닝)에선 한계를 보였다.

이 교수를 비롯한 연구팀은 이 같은 한계를 극복하기 위해 복잡한 데이터를 다루는 계산도 잘 풀 수 있는 비선형 커널(kernel, 기계학습에서 데이터간 유사성을 정량화하는 함수)을 고안했다. 특히 이 교수팀이 개발한 양자 지도학습 알고리즘은 매우 적은 계산량으로도 복잡한 연산을 할 수 있어 대규모 계산량을 수행해야 답을 얻던 기존 AI기술을 추월할 수 있는 길을 열었다고 KAIST는 설명했다. 이 교수팀이 개발한 알고리즘에는 AI용 학습데이터와 테스트데이터를 양자 정보로 생성한 후 이를 병렬연산할 수 있게 하는 양자포킹 기술 등이 적용됐다.

이번 연구논문은 국제학술지 네이처의 자매지인 ‘npj Quantum Information’의 5월판 6권에 게재됐다. 논문명은 ‘Quantum classifier with tailored quantum kernel’이다. 논문의 공동 제 1저자인 박경덕 KAIST교수는 “연구팀이 개발한 커널 기반 양자 기계학습 알고리즘은 수년 안에 상용화될 것으로 예측되는 수 백 큐비트의 NISQ(Noisy Intermediate-Scale Quantum) 컴퓨팅의 시대가 되면 기존의 고전 커널 기반 지도학습을 뛰어넘을 것”이라며 “복잡한 비선형 데이터의 패턴 인식 등을 위한 양자 기계학습 알고리즘으로 활발히 사용될 것”이라고 내다봤다.

이번 연구는 한국연구재단의 창의 도전 연구기반 지원 사업과 한국연구재단의 한-아프리카 협력기반 조성 사업, 정보통신기획평가원의 정보통신기술인력 양성사업(ITRC)의 지원을 받아 이뤄졌다. /민병권기자 newsroom@sedaily.com

[ⓒ 서울경제, 무단 전재 및 재배포 금지]