热点事件观察中
单卡Tesla P40调优35B MoE实现262k上下文
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
2026年10月28日,Reddit r/LocalLLaMA 有用户发帖称,其在单张 Tesla P40 24GB(PCIe x1)上耗时两天调优,把 Ornith 1.5 35B-A3B(qwen3.5 MoE 架构)跑满 262k 上下文,权重不低于 Q4,KV 缓存使用 q8_0。该用户报告短提示下约 60 t/s,100k 深度下约 30 t/s。这是目前关于该事件唯一一篇报道,尚无后续进展或其他来源的独立验证。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 18:58
有用户称单卡 Tesla P40 调优两天,将 35B MoE 模型跑满 262k 上下文。报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- Reddit · r/LocalLLaMA单卡 Tesla P40 调优两天:Ornith 1.5 35B-A3B 跑满 262k 上下文,短提示约 60 t/s、100k 深度约 30 t/s
有人在单张 Tesla P40 24GB(PCIe x1)上把 Ornith 1.5 35B-A3B(qwen3.5 MoE 架构)调到满 262k 上下文,且不低于 Q4 权重、KV 用 q8_0。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。