중국 상하이대 연구팀, 디웨이브 양자 어닐링 시스템으로 RSA 암호 해독

중국 상하이 대학의 왕 차오가 이끄는 연구팀이 디웨이브(D-Wave) 양자 어닐링 시스템을 사용해 RSA와 같은 암호화 방식을 공격할 수 있음을 발견했다. 널리 사용되는 기존 암호화 시스템에 양자 컴퓨터가 실질적인 위협을 가할 시점이 예상보다 앞당겨질 것으로 보인다.

ⓒ Getty Images Bank

이번 연구는 '디웨이브 어드밴티지 기반 양자 어닐링 공개키 암호화 공격 알고리즘(Quantum Annealing Public Key Cryptographic Attack Algorithm Based on D-Wave Advantage)'이라는 제목으로 중국 컴퓨터 학회지(Chinese Journal of Computers)에 발표됐다. 논문에는 디웨이브 양자 컴퓨가 RSA 암호화를 해독하고 대칭 암호화 시스템을 공격하는 방식이 나와 있다.

왕 차오가 이끄는 연구팀은 디웨이브의 양자 컴퓨터가 문제 해결을 최적화해 RSA와 같은 암호화 방식을 공격할 수 있음을 발견했다. 양자 어닐링이 암호화 공격을 조합 최적화 문제로 전환해 더 쉽게 해결할 수 있음에 주목했다. 연구팀은 논문에서 "디웨이브 어드밴티지를 사용해 22비트 RSA 정수를 성공적으로 인수분해해 양자 컴퓨터가 암호화 문제를 해결할 가능성을 입증했다"라고 말했다.

이어 연구팀은 "오늘날 사용되는 여러 SPN 구조 기반의 전체 규모 알고리즘에 대해 실제 양자 컴퓨터가 실질적인 위협을 가한 것은 이번이 처음이다"라고 덧붙였다. SPN(Substitution-Permutation Network) 구조에 기반한 암호화는 오늘날 널리 사용되는 방식이다.

연구팀은 RSA에 그치지 않았다. 프레전트(Present), 렉탱글(Rectangle), 기프트-64(Gift-64) 등 AES(Advanced Encryption Standard)에 중요한 알고리즘도 공격했다.

연구팀은 "이번 연구 결과는 디웨이브 양자 기술이 전 세계적으로 민감한 정보를 보호하는 암호화 시스템을 효율적으로 공격할 수 있음을 보여준다"라고 강조했다.

에베레스트 그룹(Everest Group)의 선임 애널리스트 프라브조트 카우르는 "오늘날 기업이 사용하는 많은 암호화 알고리즘은 RSA나 ECC와 같이 기존 컴퓨터로는 효율적으로 해결하기 어려운 수학적 문제에 기반한다. 그러나 양자 컴퓨팅의 발전은 이런 알고리즘의 보안을 위협한다. 강력한 양자 안전 또는 양자 내성 암호화(post-quantum cryptography, PQC) 솔루션이 점점 더 필요한 상황이다"라고 말했다.

사이버보안에 미치는 영향

이번 연구에 담긴 함의는 매우 중요하다. 많은 전문가가 그동안 양자 컴퓨터가 언젠가는 현재의 암호화를 깨뜨릴 수 있을 것이라고 믿었지만, 이번 연구는 그런 위협이 예상보다 더 빨리 다가올 수 있음을 시사한다.

카우르는 "양자 컴퓨터의 발전은 다양한 기업의 데이터 보안과 개인정보 보호에 심각한 위협을 가한다. 기밀성, 무결성, 인증과 같은 근본적인 원칙에 영향을 미칠 수 있다. 기존의 암호화 방식의 보안을 재평가할 필요가 있다"라고 지적했다.

연구팀은 미래에 양자 기술이 발전하게 되면 공격자가 암호를 해독할 의도로 데이터를 훔치면 현재 암호화된 데이터도 위험에 처할 수 있다고 지적하며 "양자 공격이 현실적인 가능성으로 다가옴에 따라 기업은 데이터 보호 방법을 재고해야 한다"라고 경고했다.

많은 기업이 미래의 양자 공격에 대비하기 위한 '양자 안전(quantum-safe)' 암호화 방식을 이미 연구하고 있다. 그러나 이번 연구는 이런 대책을 더 신속히 시행할 필요가 있음을 강조한다. 양자 컴퓨팅의 성능이 빠르게 발전하고 있는 지금이 암호화 전략을 재고할 시점이다.

연구팀은 논문에서 "양자 컴퓨터의 위협은 증가하고 있으며, 디지털 미래의 보안을 보장하기 위해 즉각적인 주의가 필요하다"라고 강조했다.

카우르는 "양자 컴퓨터가 조기에 상용화돼 널리 사용된다면 기존 컴퓨터로는 불가능한 새로운 고도의 사이버 공격이 가능해 큰 혼란을 초래할 수 있다. PQC는 이런 문제에 대한 해결책"이라고 말했다.
editor@itworld.co.kr

Gyana Swain editor@itworld.co.kr
저작권자 한국IDG & ITWorld, 무단 전재 및 재배포 금지