구글의 새 인공지능(AI) 모델 제미나이3가 출시되면서 AI 인프라 제왕으로 불리던 엔비디아 위상이 흔들린다.

30일 업계에 따르면 구글은 엔비디아의 그래픽 처리 장치(GPU)를 사용하지 않고 자체 개발한 AI 가속기 텐서처리장치(TPU·Tensor Processing Unit)를 써서 진일보한 거대언어모델(LLM) 제미나이3과 이미지 생성·편집 도구 나노 바나나 프로를 개발했다. TPU는 구글이 AI를 구동하기 위해 미국 반도체 팹리스(설계 업체) 브로드컴과 함께 만들었다. 엔비디아의 GPU 없이도 동일하거나 그 이상의 성능을 내는 한편 가격은 절반 수준이다. 업계에서는 ‘탈엔비디아’를 준비하던 빅테크를 중심으로 GPU를 대신해 TPU 수요가 늘면 AI 시장 내 엔비디아의 독주 체제가 크게 흔들릴 것으로 전망한다.

TPU는 오직 AI의 핵심 연산만 초고속으로 처리하도록 설계된 AI 전용 하드웨어다. 제미나이 3처럼 초대형 모델을 효율적으로 훈련할 수 있었던 것은 수천 개 TPU 칩을 초고속 통신망으로 연결해 마치 하나의 기계처럼 작동하도록 했다. A3·A4 슈퍼컴퓨터가 이를 맡았고 효율적으로 움직이도록 작업을 할당한 것은 소프트웨어 JAX, XLA였다. JAX는 AI 모델을 만드는 과학자들이 사용하는 프로그래밍 언어 프레임워크이고 XLA는 여러 개의 TPU에 계산을 분배하고 메모리 사용을 최소화한다.