热点事件持续更新
llama.cpp WebGPU后端实现浏览器运行80B MoE模型
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026年10月13日，Reddit r/LocalLLaMA报道，llama.cpp的WebGPU后端实现了一项新进展：通过新增buffer类型、slot-mapped MUL_MAT_ID shader与residency逻辑，使浏览器标签页能够运行80B参数的MoE模型，其专家模块按需从磁盘进行分页加载。此前WebGPU后端主要面向较小的稠密模型，受限于显存与内存容量，难以承载大型MoE架构。此次更新通过分页机制将不在激活路径上的专家留在磁盘，仅在需要时载入，从而突破了浏览器环境的资源瓶颈，使大规模MoE模型在本地浏览器中运行成为可能。
AI 根据报道生成 · 1 小时前更新
最新进展10月13日 22:04
llama.cpp WebGPU后端支持浏览器标签页内运行80B MoE模型，专家按需从磁盘分页加载。报道时间线
沿着报道，了解事件的不同侧面。
10月13日
- Reddit · r/LocalLLaMAllama.cpp WebGPU 后端实现浏览器标签页运行 80B MoE 模型，专家按需从磁盘分页加载
llama.cpp 的 WebGPU 后端通过新增 buffer 类型、slot-mapped MUL_MAT_ID shader 与 residency 逻辑。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。