热点事件持续更新
llama.cpp Vulkan 跑 Qwen Flash Next 达 262K 上下文
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年11月1日,Reddit r/LocalLLaMA 有用户报告,在 Broadwell Xeon 处理器、64GB DDR4 内存、2 张 RX 6800 16GB 与 1 张 RX 580 组成的机器上,使用 llama.cpp 的 Vulkan 后端运行 Qwen Flash Next 的 Q4 GGUF 量化模型,并配合 --moe-cache-mib 16384 的 Expert cache,在 262K 满上下文下取得 19-21 t/s 的生成速度。目前该事件仅有这一条报道,尚无后续进展或其他来源的独立验证。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
11月1日
- Reddit · r/LocalLLaMAllama.cpp 在 Vulkan 后端以 Q4 量化运行 Qwen Flash Next,配 Expert cache 实现 262K 上下文 19-21 t/s
用户在 Broadwell Xeon、64GB DDR4 与 2 张 RX 6800 16GB 加 1 张 RX 580 的机器上,用 llama.cpp 的 Vulkan 后端运行 Qwen Flash Next 的 Q4 GGUF,配合 --moe-cache-mib 16384 的 Expert cache,在 262K 满上下文下达到 19-21 t/s 生成速度。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。