跳到正文
原文
Reddit · r/LocalLLaMA· /u/suprjami·· 1 天前AI 评分22

yeasah 发布 Qwen3.8-27B 的 EXL3 量化版本,KLD 低至 0.0002

yeasah/Qwen3.8-27B-exl3 quants - lowest KLD of 0.0002

AI 导读

yeasah 发布 Qwen3.8-27B 的 EXL3 量化版本,平均 KLD 仅 0.0002,权重占用 18.8 GiB 显存,文件大小 23 GB。

来源:Reddit · r/LocalLLaMA · reddit.com