跳到正文
热点事件观察中

单卡Tesla P40调优35B MoE实现262k上下文

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

2026年10月28日,Reddit r/LocalLLaMA 有用户发帖称,其在单张 Tesla P40 24GB(PCIe x1)上耗时两天调优,把 Ornith 1.5 35B-A3B(qwen3.5 MoE 架构)跑满 262k 上下文,权重不低于 Q4,KV 缓存使用 q8_0。该用户报告短提示下约 60 t/s,100k 深度下约 30 t/s。这是目前关于该事件唯一一篇报道,尚无后续进展或其他来源的独立验证。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. Reddit · r/LocalLLaMA
    单卡 Tesla P40 调优两天:Ornith 1.5 35B-A3B 跑满 262k 上下文,短提示约 60 t/s、100k 深度约 30 t/s

    有人在单张 Tesla P40 24GB(PCIe x1)上把 Ornith 1.5 35B-A3B(qwen3.5 MoE 架构)调到满 262k 上下文,且不低于 Q4 权重、KV 用 q8_0。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。