Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU
Hugging Face 宣布通过原生 PyTorch 后端 TorchTPU 在自家生态中支持 TPU,Transformers、Diffusers 和 Kernels 可原生运行在 TPU 上,加载模型时传入 device_map="tpu" 或 pipe.to("tpu") 即可,不再需要 Optimum TPU。
推荐理由:Hugging Face 官方说明 TorchTPU 让 Transformers 与 Diffusers 直接把 TPU 当作普通设备使用,并给出实测加速数据。