跳到正文
原文
Reddit · r/LocalLLaMA· /u/rm-rf-rm·· 1 小时前AI 评分12

用户实测 llama.cpp 0.6.0 运行 Cloudflare Clef Q4_K_M 量化模型,基础任务准确率低

Cloudflare Clef Experience

AI 导读

用户使用 llama.cpp 0.6.0 和 bartowski 的 Q4_K_M 量化运行 Cloudflare Clef 模型,在基础退款判别任务中 noul 仅 0.57,而同一输入下 Jev 取得 0.99。该模型在 team 分类(confidence 0.51)和 urgency 评分(confidence 0.13)上也表现不佳,用户因此对 Cloudflare Clef 失去信心。

来源:Reddit · r/LocalLLaMA · reddit.com