Reddit · r/LocalLLaMA· /u/naklitechie·· 23 小时前AI 评分33
社区作者为 Ternary Bonsai 2 27B 微调 DFlash 2 drafter：L4 加速 2.2x，代码编辑 3.2x
I re-trained the DFlash 2 drafter for Ternary Bonsai 2 27B: 2.2x on an L4 (3.2x on code edits with ngram lookup), 1.5x on a Mac, 1.2x in Chrome
AI 导读
网友基于 z-lab 的 DFlash 2 drafter，用 Bonsai 2 自身 1.5M tokens 的 greedy 输出做微调，使其适配 PrismML 的 Ternary Bonsai 2 27B。
来源：Reddit · r/LocalLLaMA · reddit.com