- 내년께 세계 최초 상용화 계획

부산의 암호·보안 분야 전문 기업인 스마트엠투엠이 인공지능(AI)의 보안 취약점을 파고드는 공격을 구현하고, 이를 통한 방어 기법 수립과 성능 평가를 진행할 수 있는 솔루션을 선보여 IT 업계의 주목을 받는다.

지난 1~3일 열린 ‘AI 코리아 2021’ 전시회에서 스마트엠투엠의 ‘적대적 인공지능 공격·방어 시뮬레이터’ 시연 모습. 스마트엠투엠 제공

스마트엠투엠은 지난 1~3일 부산 벡스코에서 열린 ‘AI 코리아 2021’에서 자사의 ‘적대적 AI 공격·방어 시뮬레이터’를 선보였다고 7일 밝혔다. 이 시뮬레이터는 AI가 공격을 받아 오작동할 경우 생기는 문제를 파악하고 보완책을 수립하는 데 활용된다. AI가 다양한 산업에 활용되면서, 보안 기술 연구도 세계적으로 활발하게 이뤄지고 있지만, 공격·방어 시뮬레이션 기술은 상용화 돼 있지 않아 한국전자통신연구원 부산대 부경대 등 관계자들이 전시회에서 시뮬레이터 시연을 지켜보는 등 관심이 집중됐다.

일반적으로 인공지능은 방대한 데이터를 학습하고, 이를 바탕으로 상황별 적합한 명령을 내리는 식으로 작동한다. 이런 구조를 고려해 인공지능을 향한 공격은 학습용 데이터를 사전에 조작하거나, 정상적 판단을 방해하는 식으로 이뤄진다. 자율주행차를 예로 들면 인공지능이 시내도로 제한 속도를 시속 50㎞로 학습했지만, 1000㎞로 조작해 과속을 유발하거나, 선행 차량의 인식을 방해하는 패턴을 입혀 자동 제동을 할 수 없도록 하는 식이다. 스마트엠투엠의 시뮬레이터에서는 이처럼 AI를 대상으로 한 공격을 실제와 유사한 3D 가상환경에서 구현한다. 이에 따라 보안 취약점을 찾고 방어 대책을 적용한 뒤에는 같은 공격을 가했을 때 피해가 발생하지 않는지 확인할 수 있다. 이런 실제 공간에서 이런 공격·방어 검증을 하려면 막대한 비용이 발생하지만, 시뮬레이터를 활용하면 획기적으로 절감된다.

스마트엠투엠은 국방과학연구소와 공동으로 시뮬레이터 개발을 추진 중이다. 현재 시제품 완성이 가까워진 단계이며, 내년께 상용화를 계획하고 있다. 상용화되면 자율주행차, 적군 무인탐지 체계 개발 등 다양한 분야에서 활용될 전망이다. 스마트엠투엠 김용수 연구원은 “아직 어떤 국가도 AI 공격·방어 시뮬레이터 상용화를 이뤄내지 못했다. 세계 최초로 상용화에 성공하면 기술 표준을 이끄는 등 선두주자가 될 수 있을 것”이라고 말했다. 정철욱 기자 jcu@kookje.co.kr