Reddit · r/LocalLLaMA· /u/tcarambat·· 1 小时前AI 评分29
Ternary Bonsai 2 系列发布 2B/4B/9B 三档,基于 Qwen 3.5 改造
Ternary Bonsai 2 Family: 2B, 4B, & 9B based on Qwen 3.5
AI 导读
Ternary Bonsai 2 系列推出 2B、4B、9B 三种参数规模,均基于 Qwen 3.5 改造,采用三值化路线以压缩模型体积。模型需配合其 llama.cpp 的 prism 分支 fork 运行,不兼容原版 llama.cpp,同时支持 dFlash、MTP 和 MLX 以提升 tokens/s。可在 iOS 上通过 LocallyAI 最新版加载测试。
来源:Reddit · r/LocalLLaMA · reddit.com