Reddit · r/LocalLLaMA· /u/xenovatech·· 3 小时前AI 评分55
Ternary Bonsai 2 推出 2B/4B/9B 三档模型并上线 Hugging Face
Ternary Bonsai 2 (2B, 4B, and 9B) just released on Hugging Face. The 2B can run entirely locally in the browser at up to 500 tok/s on an M4 Max with custom WebGPU kernels.
AI 导读
Ternary Bonsai 2 系列 2B、4B 和 9B 模型已发布到 Hugging Face；其中 2B 模型借助自定义 WebGPU kernel，可在 M4 Max 上于浏览器中以最高约 500 tok/s 的速度完全本地运行。
来源：Reddit · r/LocalLLaMA · reddit.com