社区发布 exl3-qlora：支持 ExLlamaV3 量化模型直接训练 LoRA

此前 ExLlamaV3 系列量化模型主要面向推理部署，社区缺乏在其上直接进行 LoRA 微调的成熟方案。2026 年 10 月 12 日，Reddit r/LocalLLaMA 报道，社区推出名为 exl3-qlora 的项目，作为 ExLlamaV3 的分支。该项目采用原生 PyTorch 实现，能够直接在 EXL3 量化模型上进行 LoRA 训练，精度覆盖 2 至 8 bpw（bit per weight）。该工具降低了在低精度量化模型上做参数高效微调的门槛，使用户无需将模型反量化即可进行适配。目前该消息为社区单篇首发报道，尚无后续关于训练效果、兼容性细节或基准测试结果的进一步披露。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。