Reddit · r/LocalLLaMA· /u/Unstable_Llama·· 2 小时前AI 评分40
社区推出 exl3-qlora：在 ExLlamaV3 量化模型上直接训练 LoRA，精度覆盖 2-8 bpw
QLoRA on ExLlamaV3 Quants - Train @ 2-8bpw
AI 导读
社区项目 exl3-qlora 是 ExLlamaV3 的分支，用原生 PyTorch 实现在 EXL3 量化模型上直接做 LoRA 训练，覆盖 2-8 bpw。
来源：Reddit · r/LocalLLaMA · reddit.com