Dharma AI：通过词汇表专业化将推理成本降低 77%

How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications Dharma AI 发布 VocabX 论文预览，介绍如何通过针对领域或任务定制词汇表来降低推理成本。与基于频率的传统分词不同，该方法根据每个 token 的成本进行优化，在不改变基础模型的情况下，将实际生产环境中的推理成本降低了 77%。