跳到正文
原文
Reddit · r/LocalLLaMA· /u/exaknight21·· 3 小时前AI 评分21

Qwen3.5-9B 使用 QLoRA 微调的硬件配置求助

I need to fine tune Qwen3.5-9B with QLora on about 500 GB of raw data (images/scanned documents/pdfs/word/excel) - what is the best way forward?

AI 导读

一名用户计划用 QLoRA 微调 Qwen3.5-9B,原始数据约 500 GB,包含图片、扫描文档、PDF、Word 和 Excel。现有的 T4、V620、Mi50 与 3060 部署可让 Qwen3.5-9B Q5_K_XL 以 87k context 运行,但用户仍不确定如何选择微调硬件,尤其考虑 3060 12 GB 或 R9700。

来源:Reddit · r/LocalLLaMA · reddit.com