VocabX 如何通过专用词表将 SLM 推理成本降低 77%

Dharma-AI 预览 VocabX 论文，提出按 token 所在位置的推理成本而非出现频率，为领域模型重构词表。其葡萄牙语作文评分器基于 Qwen3-4B，在保持基础模型、数据和训练配方不变的情况下，将平均响应从 350 个 token 降至 101 个，实测推理成本降低 77.0%，bench score 从 0.703 提升至 0.810。