빅테크發 양자해킹 위협↑···내성암호 ‘주목’ [사이언스포커스]

구글 윌로, 슈퍼컴 훌쩍 능가

슈퍼컴도 못 푸는 소인수분해 암호

2030년대면 양자컴이 무력화?

韓·美 등 2035년 PQC 도입 목표

이통사들 선제적 개발 경쟁도

구글, IBM 등 빅테크 주도로 양자컴퓨터 개발 속도가 빨라지면서 양자컴퓨터를 활용해 기존 암호체계를 무력화하는 신종 사이버공격 위협이 커지고 있다. 2030년대 기존 암호를 위협하는 고성능 양자컴퓨터가 등장할 것이라는 전망이 나오는 가운데 이를 막을 수 있는 새로운 암호 기술 ‘양자내성암호(PQC)’가 주목받고 있다.

14일 정보기술(IT) 업계에 따르면 구글은 최근 새로운 양자칩 ‘윌로’를 공개했다. 구글은 윌로가 현존 최강의 슈퍼컴퓨터로도 10자(10의 25제곱)년이 걸리는 연산을 5분 만에 해내는 성능을 가졌다고 설명했다. 또 양자컴퓨터 연산 단위인 큐비트 수가 늘수록 계산 오류도 함께 늘어나는 30년 된 고질적 난제를 처음으로 해결, 오히려 큐비트가 늘수록 오류율이 급감하는 양자 오류정정 기술을 탑재해 양자컴퓨터 상용화의 또다른 문턱을 넘었다고 강조했다. IBM도 최근 신형 양자칩 ‘퀀텀 헤론’을 선보였으며 중국 등에서도 성능 경쟁이 가파르게 이뤄지고 있다.

이에 연산 성능이 획기적으로 향상된 양자컴퓨터가 기존 암호체계를 무력화할 것이라는 우려도 커지고 있다. 현재 암호체계는 매우 큰 수를 소인수분해하기 어렵다는 점을 응용한 RSA 알고리즘을 기반으로 한다. 힌트에 해당하는 주어진 수를 소인수분해해야 암호를 풀 수 있는 방식인데, 그 수가 수백 자리의 매우 큰 수라서 슈퍼컴퓨터로도 상당한 시간이 걸린다. 정보 수신자만 가진 추가 힌트 없이는 제3자가 사실상 풀 수 없는 문제를 내는 셈이다.

가령 129자리 수인 RSA-129 ‘114381625757888867669235779976146612010218296721242362562561842935706935245733897830597123563958705058989075147599290026879543541’는 두 소수(素數) ‘3490529510847650949147849619903898133417764638493387843990820577’과 ‘32769132993266709549961988190834461413177642967992942539798288533’의 곱으로만 소인수분해된다고 알려져 있다. 인간이 이를 직접 계산하는 것은 불가능하다. 게다가 계산 결과인 해당 소수들 역시 매우 큰 수라서 1과 자기자신 외 자연수로는 나눌 수 없는 소수가 맞는지를 증명하는 것조차 수학계에서는 고난도 연구주제로 꼽힌다.

현재 컴퓨터로 암호를 풀려면 2X2, 2X3, ···과 같이 임의의 자연수 간 곱을 순차적으로 계산해서 주어진 수와 일치하는 결과를 찾는 방식으로 접근해야 한다. 슈퍼컴퓨터는 이 같은 계산 속도를 높일 수 있지만 근본적으로 계산 방식은 다르지 않아서 상당한 시간이 걸리는 것은 마찬가지다. 반면 양자컴퓨터는 0과 1의 정보를 동시에 갖는 큐비트라는 단위로 병렬 연산이 가능해 완전히 새로운 방식으로 RSA 암호를 공략할 가능성이 있는 것이다.

다만 당장은 양자컴퓨터 성능이 RSA 암호를 위협할 수준으로 고도화하지는 못한 것으로 평가된다. IT 전문매체 더버지는 구글 측이 “윌로는 현재 암호를 풀 수 없다”며 “윌로는 105개의 큐비트를 갖는 반면 암호 해독을 위해서는 수백만 개가 필요할 것”이라고 밝혔다고 보도했다. 매체는 구글 측이 “RSA 암호를 깨는 데는 400만 큐비트가 필요하고 이는 적어도 10년을 걸릴 것으로 추정된다”고 덧붙였다고 전했다. 윌로가 특정 작업에서 슈퍼컴퓨터를 질적으로 앞서긴 하지만 양적 성능인 연산량은 아직 작으며 RSA 암호를 깨려면 큐비트 수를 지금보다 40만 배는 늘려야 한다는 것이다.

다만 이 같은 가정으로도 2030년대에는 양자 해킹이 현실화할 수 있다는 전망이 나온다. 이에 국내외 학계와 IT 업계에서는 RSA의 대체 기술로 PQC 개발과 표준화 작업이 이뤄지고 있다. PQC는 양자컴퓨터나 양자암호통신(QKD)처럼 이름에 ‘양자’가 붙었지만 엄밀히는 양자역학의 원리를 응용한 양자기술은 아니다. RSA와 다른 수학적 원리를 응용한 알고리즘, 즉 소프트웨어의 일종이다.

미국은 국립표준기술연구소(NIST) 주도로 PQC 기술을 표준화하고 양자컴퓨터 상용화가 가능한 시점인 2035년까지 정부기관들에 도입한다는 계획이다. 한국 역시 과학기술정보통신부와 국정원 등이 2035년 공공기관 도입을 목표로 기술 개발과 인증 제도 마련을 추진하고 있다.

국내 대표적 개발사로는 이동통신사들이 있다. SK텔레콤은 QKD와 PQC를 합친 하이브리드(혼합형) 암호 상품을 지난달 출시했다. KT도 지난달 비슷한 기술을 가상 사설망(VPN)에 적용한 ‘하이브리드 양자보안 VPN 서비스’ 실증을 완료했다. LG유플러스는 한국지능정보사회진흥원(NIA)과 공동으로 만든 광전송망의 PQC 적용방안에 대한 표준안이 국내 최초로 한국정보통신기술협회(TTA) 표준으로 채택됐다. PQC를 적용한 암호 상품인 ‘알파키’를 시범 출시해 20~30개 기관·기업과 도입 논의를 진행 중이다.

김윤수 기자 sookim@sedaily.com
[ⓒ 서울경제, 무단 전재 및 재배포 금지]