Reddit · r/LocalLLaMA· /u/Maglcite·· 2 小时前AI 评分21
用单张 9060 XT 16GB 跑 Qwen 3.8 27B 262k 上下文：实测 42.7 tps 生成速度
You don’t need that expensive of a build for local llms.
AI 导读
一位用户用单张 9060 XT 16GB 显卡加 24GB DDR5 跑 Qwen 3.8 27B 262k 上下文，模型用 unsloth IQ4XS 量化并启用 MTP + ngram 预测的 q4 KV cache / q8 keys。
来源：Reddit · r/LocalLLaMA · reddit.com