오픈AI 로고. 로이터 연합뉴스

초고성능 AI 모델이 통제된 실험 환경에서 제멋대로 벗어나 외부 사이트를 해킹하는 초유의 사건이 발생했다. 이에 따라 AI 사이버 안전에 관한 논란이 확산한다.

빅테크 기업 오픈AI는 ‘GPT-5.6 솔’과 일부 미공개 AI 모델이 내부 평가 도중 통제를 뚫고 개방형 AI 공유 플랫폼 ‘허깅페이스’를 해킹한 사실이 확인됐다고 21일(현지 시간) 밝혔다. 허깅페이스는 AI 개발자들이 함께 사용하는 ‘자료 창고’다. 개발자들은 여기서 AI 모델과 데이터를 공유한다.

오픈AI는 ‘GPT-5.6 솔’ 등의 사이버 공격 능력을 평가하려고 외부 인터넷과 격리된 ‘샌드박스’ 환경에서 실험을 진행했다. 그러나 이들 모델이 미공개 취약점을 이용해 외부 인터넷에 접속했다. ‘GPT-5.6 솔’ 등은 허깅페이스에서 인증 정보를 탈취하고 서버를 해킹한 것으로 드러났다.

초유의 해킹 사고는 AI가 평가용 문제의 해답을 찾으려다가 벌어졌다. 통제 장벽을 넘어선 AI가 허깅페이스에 문제의 답이 있을 것으로 판단하고 극단적인 수단까지 동원했다는 게 오픈AI의 설명이다.

이번 사태를 악용한 사이버 공격이 더 늘어날 가능성도 제기된다. 특히 통제 수준이 상대적으로 낮은 중국산 개방형 AI 모델의 성능이 최근 크게 향상되면서 우려는 더 커진다. 허깅페이스는 “자율적인 AI 기반 공격이 더는 이론상 개념이 아니다”며 “공격뿐 아니라 방어에도 AI를 적극적으로 활용해 속도를 따라잡아야 한다”고 강조했다.