11月6日，在圣何塞举行的2026年PyTorch北美大会上，谷歌和Meta联合开源了TorchTPU——谷歌张量处理单元（TPU）的原生PyTorch后端。在10月21日的主题演讲中，Meta软件工程师Zongwei Zhou表示，Meta计划利用该后端将更大规模的LLM工作负载迁移到TPU上。

TorchTPU取代了2020年推出的PyTorch/XLA惰性张量桥接库。根据公告，后者“需要对源代码进行侵入性修改”。新后端旨在让模型移植变得像把model.to("cuda")改为model.to("tpu")一样简单。谷歌云在由Core ML/AI工程副总裁Bill Jia共同撰写的公告中写道，“借助TorchTPU，TPU将与GPU和CPU一起成为PyTorch的原生选项。”

PyTorch基金会执行董事Mark Collier表示，推理已经取代训练成为数据中心最大的工作负载，催生“对token的巨大需求”。他将社区目标描述为开发一种开源软件，使模型能够“在任何云端的任何芯片上运行，并且能够连接到任何智能体”。Agentic AI基金会执行董事Mazin Gilbert称，2026年2月6日智能体token消耗量已超过人类消耗量，此后前者增长14倍，后者仅增长2.8倍。

演讲者表示，由于TorchTPU集成到PyTorch底层调度器中，Hugging Face的模型可以开箱即用；vLLM和SGLang推理引擎可原生运行，TorchTitan支持面向大规模训练的密集型、专家混合型和扩散型模型。已开源的代码库共有四个：TorchTPU、vLLM-TorchTPU、SGLang-TorchTPU和TorchTitan。

Jia展示了TPU芯片超过8000个时的近线性扩展能力，谷歌公布的结果包括在8192个TPU v7x芯片上运行Qwen3 235B专家混合模型，模型FLOPs利用率为28%。公告同时指出，仅靠一行代码修改还无法达到TPU峰值性能，因为模型结构、分片和运算可能更适合GPU架构。为此，Jia在演讲末尾宣布了已在GitHub开放预览的TPU代理套件。