热点事件持续更新
双3090并发跑8个25万token智能体
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年11月2日，Reddit r/LocalLLaMA 有作者发帖称，自己在两张 RTX 3090 上并发运行 8 个编码智能体，每个智能体持有 250K token 上下文。实测总吞吐约 545 tok/s（解释型输出）、790 tok/s（复制型输出），250K 上下文召回为 31/32。帖子标题概括为总吞吐约 600 tok/s。目前进展停留在作者自测数据分享阶段，报道中未提及后续复现或他人验证。
AI 根据报道生成 · 49 分钟前更新
最新进展11月2日 09:19
作者公布双3090并发8个250K上下文智能体的实测吞吐与召回数据。报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- Reddit · r/LocalLLaMA两张 3090 并发跑 8 个 250K 上下文智能体，总吞吐约 600 tok/s
作者在两张 3090 上并发运行 8 个编码智能体，每个持有 250K token 上下文，实测总吞吐约 545 tok/s（解释型输出）、790 tok/s（复制型输出），250K 召回 31/32。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。