热点事件持续更新
用户评测JetBrains Mellum 2.1 12B MoE模型
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Reddit 用户 r/LocalLLaMA 发布了对 JetBrains Mellum 2.1 12B A2.5B MoE 模型的体验评测。测试显示，在 m4 16 上以 130k 满上下文运行时，速度可达约 60 tps；在 9070xt 显卡上运行 Q8 量化版本，速度可达 140 TPS；预计在 8GB、12GB 显存设备上可实现 30-40 tps。评测者认为该模型能够完成编码任务，但更适合作为大模型规划细节后的快速执行环节，而非独立承担复杂代码生成工作。
AI 根据报道生成 · 3 小时前更新
最新进展10月14日 23:47
实测显示Q8量化版本在16GB显卡上可达60-140 tps，适合作为大模型规划后的快速编码执行环节。报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- Reddit · r/LocalLLaMAJetBrains Mellum 2.1 12B A2.5B MoE 体验：Q8 量化可在 16GB 显卡运行
JetBrains Mellum 2.1 12B A2.5B MoE 在 m4 16 上于 130k 满上下文可达约 60 tps，使用 9070xt 运行 Q8 量化可达 140 TPS，8GB、12GB 显存预计可实现 30-40 tps。作者认为该模型能完成编码任务，但更适合作为大模型规划细节后的快速执行环节。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。