제미나이. EPA 연합뉴스

인공지능(AI) 모델이 외부 기관을 해킹하는 사례가 이어지는 가운데 구글의 제미나이도 유사 사건을 일으킨 것으로 드러났다.

월스트리트저널(WSJ)은 18일(현지시간) 구글 AI모델 ‘제미나이’가 지난 5월 보안 평가업체 ‘이레귤러’가 진행한 사이버 보안 시험 도중 외부 기업 3곳의 시스템에 무단 접근했다고 보도했다.

제미나이가 외부 기업 시스템에 임의로 침투한 첫 사례다. WSJ가 관련 문의를 하기 전까지 구글은 이를 공지하지 않았다.

이레귤러는 원래 인터넷을 차단하고 진행해야 하는 모의 해킹(CTF) 시험에서 실수로 인터넷 접속이 가능하게 했다.

제미나이는 가상의 기업 시스템에서 비밀 정보를 가져오라는 지시를 받았으나, 인터넷에 접속한 뒤 같은 이름의 기업 시스템을 발견해 해킹을 시도했다.

제미나이가 해당 기업이 가상의 목표물이 아니라 현실 속 실제 기업이라는 사실을 인지한 후 해킹을 즉시 중단했다고 구글은 설명했다. 구글은 자사 모델이 해당 기업에 손해를 입히지 않았고 실제 기업이라는 사실을 파악한 직후 해킹을 중단했다는 점을 들어 이번 사건이 공개해야 할 사안으로 보지 않는다는 입장을 밝혔다.

이번 해킹 사건에 최신 AI모델은 연루되지 않았다면서 정확히 어느 모델이 해킹 사건과 연관됐는지 공개하지 않았다.

다만, 구글은 이 사안을 연방 당국에 통보했으며 이레귤러는 관련 연구실과 기관에 연락했다고 밝혔다.

앞서 오픈 AI의 GPT가 격리 환경인 ‘샌드박스’를 임의로 벗어나 외부 기관인 허깅페이스를 해킹한 사건 이후 유사한 사건이 연이어 발생하고 있다.

앤트록픽의 클로드 모델도 평가 도중 실수로 막히지 않은 인터넷망에 접근해 외부 기업 시스템에 침투했다. 메타의 ‘뮤즈 스파크’ 모델과 중국 문샷 AI의 ‘키미 K3’등도 해킹을 한 바 있다.