PyTorch Conference 2026:谷歌和Meta开源TorchTPU,实现PyTorch原生运行于TPU

Google与Meta在PyTorch Conference North America 2026开源TorchTPU,使PyTorch可原生运行于谷歌TPU,支持Hugging Face、vLLM、SGLang等工具。Meta计划将更多大规模语言模型工作负载迁移至TPU。该后端可通过修改设备标识快速运行模型,但要达到峰值性能仍需针对分片、算子和内核调优。

来源:InfoQ