AI 워크로드를 위한 Google의 TPU가 이제 Meta의 데이터센터에서 가동 — 외부 고객에게 처음 판매된 TPU, Nvidia의 시장 지배력 위협

요약

Google의 TorchTPU와 PyTorch 네이티브 SGLang·vLLM 지원을 통해 Meta가 운영 환경에서 Google TPU를 활용하기 시작했습니다. Google, Meta, SGLang 팀은 PyTorch 기반 TPU 서빙 스택을 공동 개발했으며, 이는 Nvidia 중심의 소프트웨어 의존도를 낮추려는 움직임으로 설명됩니다. 한 테스트에서는 추측 디코딩을 적용한 16개 Ironwood TPU가 16개 Nvidia GB200보다 높은 토큰 처리 속도를 기록했습니다.