热点事件持续更新
QwenPU在Qwen权重内编译NPU运行小模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年11月1日,Reddit r/LocalLLaMA 出现报道称,此前在 Qwen 模型内嵌入 RISC-V CPU 的同一作者又有新项目:在 Qwen 3.5-4B 权重中编译出一个 NPU,名为 QwenPU,并让 Karpathy 的 stories260k 这一 LLM 在该 NPU 上运行。报道称,该 NPU 可比特精确地执行 matmul、softmax 和 attention,模型权重存放在 Qwen 自身内存中,不依赖外部工具。作者表示已投入大量工作提升速度,完整博客以及优化、体积缩减仍在进行中。目前尚无后续报道披露运行速度、体积等具体数据。
AI 根据报道生成 · 1 小时前更新
最新进展11月1日 03:18
同一作者在 Qwen 3.5-4B 权重内编译 NPU,让 stories260k 在其上运行。报道时间线
沿着报道,了解事件的不同侧面。
11月1日
- Reddit · r/LocalLLaMA继在 Qwen 里塞进 RISC-V CPU 后,同一作者让 Karpathy 的 stories260k 跑在 Qwen 3.5-4B 权重内编译的 NPU 上
同一作者在 Qwen 3.5-4B 权重中编译出一个 NPU,让 Karpathy 的 stories260k 这个 LLM 在 LLM 内部运行,项目名为 QwenPU。该 NPU 可比特精确地执行 matmul、softmax 和 attention,模型权重存放在 Qwen 自身内存中,不依赖外部工具。作者称已投入大量工作提升速度,完整博客与优化、体积缩减仍在进行中。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。