跳到正文
Hugging Face Blog·· 5 天前精选AI 评分78

Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU

Hugging Face ❤️ TorchTPU: TPUs, Natively

AI 导读

Hugging Face 宣布通过原生 PyTorch 后端 TorchTPU 在自家生态中支持 TPU,Transformers、Diffusers 和 Kernels 可原生运行在 TPU 上,加载模型时传入 device_map="tpu" 或 pipe.to("tpu") 即可,不再需要 Optimum TPU。

推荐理由

Hugging Face 官方说明 TorchTPU 让 Transformers 与 Diffusers 直接把 TPU 当作普通设备使用,并给出实测加速数据。

来源:Hugging Face Blog · huggingface.co