热点事件持续更新
Qwen3-27B 262k上下文移植ROCm实现高速推理
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
事件起因是开发者尝试将Qwen3-27B的262k长上下文能力在AMD ROCm平台上落地。早期报道中，开发者已成功在AMD平台运行Qwen3-27B长上下文，并通过优化实现了80+t/s的decode速度，展示了AMD ROCm在大模型推理上的潜力。在此基础上，最新进展显示，开发者进一步将llama.cpp中的adaptive KV流式方案移植到ROCm，并对RDNA 4架构进行优化。该方案使用IQ4_XS量化权重，在单卡16GB显存的RX 9070 XT上即可运行Qwen3-27B的全262k上下文，无需多卡堆叠，大幅降低了硬件门槛。该工作进一步完善了Qwen3-27B在AMD消费级显卡上的长上下文推理生态。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月17日
- Reddit · r/LocalLLaMA开发者为 ROCm 移植 adaptive KV 流式方案，单卡 16GB RX 9070 XT 运行 Qwen3-27B 全 262k 上下文
开发者将 llama.cpp 的 adaptive KV 流式功能与 RDNA 4 / ROCm 优化移植到 ROCm，使 Qwen3-27B（IQ4_XS 权重。
本事件热度走势
当前热度 9·可比范围峰值 10（10月17日 22:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。