Reddit · r/LocalLLaMA· /u/Brief-Tap-6616·· 2 小时前AI 评分20
LlamAmpere 更新:面向 12GB Ampere 显卡的 Qwen3.8 27B 200K 上下文 + MTP 推理
Qwen3.8 27b with 200K ctx + MTP on 12GB Ampere Cards
AI 导读
开发者发布 LlamAmpere 新版本,主要面向 12GB 显卡用户,运行体积较此前缩小数百 MB,配合 YaRN 可支持约 340K 上下文,并新增 Staged + Journaled KVaRN 变体,将 KLD 相对原版降低约 40%。
来源:Reddit · r/LocalLLaMA · reddit.com