Hugging Face 宣布 TorchTPU 原生支持 TPU

Hugging Face 宣布通过原生 PyTorch 后端 TorchTPU 在自家生态中支持 TPU：Transformers、Diffusers 和 Kernels 可原生运行在 TPU 上，加载模型时传入 device_map="tpu" 或 pipe.to("tpu") 即可，不再需要 Optimum TPU。 在 TPU 虚拟机上安装只需一条命令 pip install torch-tpu --extra-index-url https://download.pytorch.org/whl/cpu；该额外索引提供的是 torch 的 CPU 构建版本。Hugging Face 称，在 TPU 上运行的测试中 96.5% 通过，并正在添加 TPU 上的 nightly CI，结果将发布在 Transformers 仪表盘。

AI 根据报道生成 · 5 天前更新