Reddit · r/LocalLLaMA· /u/Mindless_Ad_407·· 2 小时前AI 评分21
QUASAR 发布 Qwen3.5、Gemma 4 和 Muse Glimmer 的 4-bit QAT 量化 checkpoint
QUASAR 4-bit QAT checkpoints for Qwen3.5, Gemma 4 and Muse Glimmer: closer to BF16 than Google’s and NVIDIA’s 4-bit releases
AI 导读
QUASAR 公开了 Qwen3.5-4B、Gemma 4 E4B/12B 和 Muse Glimmer 30B 的 4-bit QAT 量化权重，同时提供 NVFP4（用于 vLLM）和 Q4_0 GGUF（用于 llama.cpp / Ollama / LM Studio）两种标准格式，无需自定义 kernel。
来源：Reddit · r/LocalLLaMA · reddit.com