Reddit · r/LocalLLaMA· /u/suprjami·· 1 天前AI 评分22
yeasah 发布 Qwen3.8-27B 的 EXL3 量化版本,KLD 低至 0.0002
yeasah/Qwen3.8-27B-exl3 quants - lowest KLD of 0.0002
AI 导读
yeasah 发布 Qwen3.8-27B 的 EXL3 量化版本,平均 KLD 仅 0.0002,权重占用 18.8 GiB 显存,文件大小 23 GB。
来源:Reddit · r/LocalLLaMA · reddit.com