Reddit · r/LocalLLaMA· /u/7dollarbooks_dev·· 6 天前AI 评分51
在 Bonsai 2 27B 上应用 −2 logit bias：MATH-500 得分 44/50 → 43/50，tokens 增加 3%
−2 logit bias on Bonsai 2 27B: 44/50 → 43/50 on MATH-500, +3% tokens
AI 导读
作者测试了在 Bonsai 2 27B（PTQ1_0，5.53 GiB）模型上应用 −2 logit bias 对 "wait"、"maybe"、"perhaps" 等词的效果。
来源：Reddit · r/LocalLLaMA · reddit.com