跳到正文
热点事件持续更新

llama.cpp Vulkan 跑 Qwen Flash Next 达 262K 上下文

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年11月1日,Reddit r/LocalLLaMA 有用户报告,在 Broadwell Xeon 处理器、64GB DDR4 内存、2 张 RX 6800 16GB 与 1 张 RX 580 组成的机器上,使用 llama.cpp 的 Vulkan 后端运行 Qwen Flash Next 的 Q4 GGUF 量化模型,并配合 --moe-cache-mib 16384 的 Expert cache,在 262K 满上下文下取得 19-21 t/s 的生成速度。目前该事件仅有这一条报道,尚无后续进展或其他来源的独立验证。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月1日
  1. Reddit · r/LocalLLaMA
    llama.cpp 在 Vulkan 后端以 Q4 量化运行 Qwen Flash Next,配 Expert cache 实现 262K 上下文 19-21 t/s

    用户在 Broadwell Xeon、64GB DDR4 与 2 张 RX 6800 16GB 加 1 张 RX 580 的机器上,用 llama.cpp 的 Vulkan 后端运行 Qwen Flash Next 的 Q4 GGUF,配合 --moe-cache-mib 16384 的 Expert cache,在 262K 满上下文下达到 19-21 t/s 生成速度。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。