Reddit · r/LocalLLaMA· /u/OneMoreName1·· 4 小时前AI 评分11
Quartermaster 1.7 集成 llama.cpp 决策模型 /v1/systemone,新增 Playground 标签
Quartermaster 1.7 update now lets you run llama.cpp's new decision models (/v1/systemone) with a playground tab
AI 导读
本地推理管理器 Quartermaster 发布 1.7 版本,新增对 llama.cpp 决策模型(/v1/systemone)的支持。用户只需将决策类 GGUF(如 Kev、OpenJev、Laya)放入模型文件夹即可被自动识别并按 VRAM 分配配置,同时新增 Playground 标签用于快速试写提示词并查看各选项的概率条。
来源:Reddit · r/LocalLLaMA · reddit.com