跳到正文
Hugging Face Blog·· 4 天前AI 评分58

VocabX 如何通过特化 SLM 词表将推理成本降低 77%

How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

AI 导读

Dharma-AI 在 Hugging Face 博客中介绍即将发表的 VocabX 论文,称在不更换基座模型、数据和训练配方的前提下,围绕每个 token 的成本而非出现频率重建词表,使基于 Qwen3-4B 的葡语作文评分器实测推理成本下降 77.0%。

来源:Hugging Face Blog · huggingface.co