Reddit · r/LocalLLaMA· /u/PlasticRevenue4601·· 7 小时前AI 评分10
Qwen 低调的 Q2 量化黑马：Agantai GYRO 量化实测
Qwen Flash Next potential SOTA Q2 nobody talks about
AI 导读
Reddit 用户实测了 Agantai 旗下 GYRO 系列低比特量化，其中 GYRO-M 在 Qwen 模型上 200k 上下文下测试三天的表现优于 ISTA-lab IQ2XS。
来源：Reddit · r/LocalLLaMA · reddit.com