- 폰 뱅킹 등 공개키 암호 필수
- 인수분해 기반 위·변조 방지

- 슈퍼컴퓨터 1만 년 걸릴 연산
- 양자컴은 단 200초에 수행
- 사이버보안 무력화 초래 위험
- 韓·美 ‘내성암호’ 표준화 진행

암호의 어원은 (hidden writing)로 공격자에게 메시지의 내용을 숨기는 것을 의미한다. 암호학(Cryptography)은 암호를 설계하는 것(cryptology)과 암호를 공격해서 깨는 것(cryptanalysis)으로 구성된다. 암호 연구는 누구도 뚫을 수 없다는 방패와 그 어떤 것도 뚫을 수 있다는 창의 숙명적인 대결의 역사라고 할 수 있다.
■공개키 암호 사용하지 않으면 위·변조에 노출

현재 인터넷 뱅킹, 인터넷 쇼핑 등 모든 전자상거래와 통신에서 공개키 암호는 없어서는 안 되는 필수기술로 사용되고 있다. 인터넷에서 전송되는 패킷(네트워크를 통해 전송하기 쉽도록 자른 데이터의 전송 단위)은 누구나 도청뿐만 아니라 위·변조가 가능하다. 공개키 암호를 사용하지 않으면 인터넷 뱅킹으로 송금하는 경우 공격자가 중간에서 송금 액수를 바꾸거나 수신자를 공격자 자신으로 변경할 수도 있다. 위·변조를 방지하고 무결성, 인증 등을 제공하는 것이 공개키 암호의 역할이다.

최근 IoT(사물인터넷) 기기에서 해킹 사고가 빈번하게 보도되고 있다. 인체에 이식되는 인공 심장박동기, 인슐린 주사 장치가 해킹되어 제대로 작동하지 않고, 인슐린 투하량이 적당량의 30배가 투하되는 사건과 고속도로를 주행 중인 스마트카 지프(Jeep) 체로키를 원격으로 해킹해 핸들과 가속 페달을 자유자재로 조정해 시동이 꺼지게 해 도랑에 처박히게 하는 동영상이 공개됐다. 이는 스마트카 1400만 대가 리콜된 초유의 사태 원인이 되었다. 이는 모두 전송되는 정보의 위·변조를 방지할 수 있는 공개키 암호를 사용하지 않아 일어나는 보안 문제라고 할 수 있고, 과거 해킹이 경제적인 손실의 초래에 그친 것과 달리 인간의 생명에 직결되는 치명적인 사고로 이어지고 있음을 보여주는 사례다.

■수학적 난제를 이용한 국제 표준 공개키 암호

타원곡선

현재 인터넷에서 사용 중인 국제 표준 공개키 암호는 RSA와 타원곡선 암호이다. RSA는 미국 매사추세츠공대(MIT) 소속 리베스트(Rivest), 샤미르(Shamir), 에이들먼( Adleman) 세 명의 수학자가 개발한 최초의 공개키 암호로, 이들 이름의 첫 자를 딴 것이다. RSA의 안전성은 주어진 합성수 N=ρq의 인수분해가 어렵다는 사실에 근거를 두고 있다.

현재 사용 중인 RSA-2048는 2048비트의 합성수를 쓰고 있고, 이 합성수는 전 세계의 슈퍼 컴퓨터로 수천 년 동안 수행해도 인수분해가 불가능하다.

타원곡선 암호는 키 길이가 짧고 계산이 빨라 대역폭과 계산량의 제한이 있는 무선 인터넷에서 사용되고 있다. 타원곡선은 χ에 관한 3차 방정식으로 정의되는 곡선으로, 그 위의 한 점을 s번 더한 점의 값이 주어졌을 때 s를 찾는 문제인 이산대수 문제의 어려움을 이용해 설계되었다. 타원곡선은 좌표 평면에 나타내면 왼쪽 그림과 같지만, 복소수체에서 보면 기하학적으로 구멍이 하나인 토러스(torus)와 동치임을 증명할 수 있어, 도넛이나 손잡이가 하나인 머그잔과 동일한, 아주 친숙한 구조임을 알 수 있다. 이 두 문제는 일정 크기 이상으로 커지면 현재의 계산능력으로는 인수분해 할 수 없고, 이산대수 문제를 풀 수 없게 된다.

■양자컴퓨터의 출현…공개키 암호의 안전성 붕괴 예고

양자컴퓨터의 개발은 기존 컴퓨팅 기술 한계를 극복하고 전 산업에 막대한 파급 효과가 예상되지만, 현재 사용하고 있는 암호체계 무력화를 초래하는 양면성을 가지고 있다. 2019년 구글은 ‘네이처’에 현재 가장 빠른 슈퍼컴퓨터인 ‘서밋’으로 1만 년이 걸리는 연산을 시커모어 양자 프로세서로 단 200초 만에 수행해 양자 우위(Quantum supremacy)의 달성을 발표하는 등 양자컴퓨터 개발이 가속화되고 있다. IBM은 2030년까지 100만 큐빗(양자컴퓨터의 연산 단위) 달성을 선언하기도 했다. 이는 기존 컴퓨터가 0과 1이라는 두 가지 상태를 이용해 계산했다면, 양자컴퓨터는 0과 1이 동시에 존재하는 ‘양자 중첩’이라는 세 번째 상태를 이용해 더 빠른 연산을 할 수 있기 때문이다.

양자컴퓨터의 등장은 공개키 암호의 기반이 되는 인수분해 문제와 이산대수 문제를 실시간 안에 해결해 현재 전 세계적으로 사용되는 공개키 암호의 안전성 붕괴를 초래하고 있다. 이에 따라 양자컴퓨터 이후 시대의 안전한 통신과 정보 보호를 위해 모든 보안 분야에서 양자컴퓨터 공격에 안전한 양자내성암호(Post-Quantum Cryptography)로의 전환이 필수적이다.

미국은 표준기술연구소(NIST) 주도로 차세대 양자내성암호 공모 프로젝트를 벌여 현재 3라운드 7개의 후보를 선정했고, 올해 4라운드 최종 후보를 발표하고 표준화를 진행할 계획이다. 국내의 경우 양자내성암호연구단(KpqC)에서 국정원 양자내성암호 국가 암호공모전을 진행해 선정된 암호는 향후 국내 암호모듈 검증제도(KCMVP)의 검증 대상 암호로 제안될 예정이다.

최근 조 바이든 미국 대통령은 양자내성암호를 활용한 국가 사이버 보안 체계를 확립하기 위한 국가안보각서에 서명하면서 양자컴퓨터 위협에 본격적으로 대응하고 있다.


※공동기획:국제신문·국가수리과학연구소