热点事件观察中
单卡 RTX5090 跑本地 LLM 推理：解码足够快，CPU 成智能体编码瓶颈
1 篇报道1 个报道来源3 天前更新
先了解这件事
AI 综述
开发者尝试将 Kenshi 项目移植到 Godot，使用单张 RTX5090 承担本地 LLM 推理。GPU 端平均解码速度约 700 tokens/s，性能已足够，但无法继续往上提速。后续他启动 25 个智能体并发，把 12 个推理服务槽位全部占满后，任务开始卡在 tool call 阶段，此时 CPU 出现满载。也就是说，解码速度本身不是问题，真正的瓶颈被转移到了 CPU。
AI 根据报道生成 · 3 天前更新
最新进展10月6日 02:21
RTX5090 解码约 700t/s 已无法再提速，25 个并发智能体在 tool call 阶段把 CPU 跑满。报道时间线
沿着报道，了解事件的不同侧面。
10月6日
- Reddit · r/LocalLLaMA单卡 RTX5090 跑本地 LLM 推理遇瓶颈：解码速度足够快，CPU 反而成为智能体编码的真正瓶颈
开发者将 Kenshi 项目移植到 Godot，使用单张 RTX5090 跑本地 LLM 推理服务，GPU 平均解码约 700t/s 却无法再提速；启动 25 个智能体并发占满 12 个服务槽位后，任务卡在 tool call 阶段，CPU 满载。
本事件热度走势
当前热度 3·可比范围峰值 10（10月6日 03:00）·近 24 小时可比范围变化 -51%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。