Reddit · r/LocalLLaMA· /u/Haunting-Stretch8069·· 9 天前AI 评分60
Qwen 3.8 27B Q4 如何在 16GB RX 7800 XT 上实现 100K 上下文
Qwen 3.8 27B Q4 with 100K context on a 16 GB RX 7800 XT guide
AI 导读
作者在 16GB AMD RX 7800 XT GPU 上成功运行 Qwen 3.8 27B Q4 XS 模型,达到约 30 t/s 解码速度,支持 100K 上下文。
来源:Reddit · r/LocalLLaMA · reddit.com