跳到正文
原文
Reddit · r/LocalLLaMA· /u/Ok-Shower7286·· 3 小时前AI 评分20

关于 Qwen4 HC 架构与量化方案的一些预测

A few predictions on Qwen4 HC and Quantization while we wait

AI 导读

有观点预测,若 Qwen4 27B 采用 HC 架构发布,Q4 与 Q6 量化之间的性能差距将明显拉大,因为 NVFP4 的 E2M1 格式有效精度有限,可能扭曲 HC 中细粒度的门控关系。

来源:Reddit · r/LocalLLaMA · reddit.com