양자내성암호는 현 컴퓨터를 이용한 공격과 양자컴퓨터를 이용한 공격에 모두 안전한 수학적 난제에 기반한 공개키 암호알고리즘을 의미한다. 양자내성암호의 설계는 양자컴퓨터에 안전하다고 알려져 있는 수학적 난제를 이용한다. 그중 하나가 다변수 이차식으로 구성된 연립방정식의 해(解)를 찾는 문제로, 양자컴퓨터에 관한 안전성이 오랫동안 검증되어 왔다. 일차 연립방정식의 경우 변수와 방정식의 개수가 커져도 가우스 소거법을 이용하면 해를 모두 구할 수 있지만, 차수가 2차 이상이고 변수와 식의 개수가 커지면 양자컴퓨터로도 풀 수 없게 된다. 변수와 식의 개수가 50개 이상이 되면 현재의 계산 능력으로는 풀 수가 없는 어려운 문제지만 비밀키를 가진 사용자는 밀리초(milisecond, 1000분의 1초) 안에 풀 수 있게 된다. 다변수 이차 다항식으로 구성된 연립방정식의 해를 구할 수 있으면 공개키 암호를 깰 수 있다는 얘기다.

다변수 이차 다항식 기반 공개키 암호에서 사용되는 수학적 난제

국가수리과학연구소(수리연) 암호기술연구팀은 양자컴퓨터에 안전한 공개키 암호를 설계하기 위해 부단히 노력을 하고 있다. 수리연 암호팀에서 개발한 양자내성암호는 전자서명으로 성능이 우수하고, 구현이 쉽고, 부채널 공격 대응 기술 설계가 용이하고, 서명 길이가 가장 짧아 현 국제표준 전자서명 RSA와 ECDSA(Eliptic Curve Digital Signature Algorithm)가 사용되는 모든 분야에서 대체가 가능하다. ECDSA는 타원곡선을 이용해 무결성(데이터가 타인 접근으로 오염되지 않았다는 증명)을 제공하는 전자서명 알고리즘이다.

개발한 양자내성암호는 세계 최고 권위의 암호학회 CHES(Cryptographic Hardware and Embedded Systems) 2018 및 CHES 2022 발표, 저명 IEEE 저널 게재, 2020년 정보통신단체표준(TTAS)으로 제정됐다. 수리연 김현민 소장(부산대 수학과 교수)은 24일 “수리연 암호팀은 양자컴퓨터 이후 시대의 안전한 통신과 정보보호를 위해 양자내성암호 원천기술과 응용기술, 안전성 검증, 적용기술 연구, 주도적인 개발 역할을 수행해 나가겠다”고 밝혔다.