热点事件持续更新
Basalt项目支持NVFP4并提升Qwen3.8 Flash-Next预填速度
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月18日,Reddit r/LocalLLaMA 用户发布报道,介绍 Basalt 推理框架的更新进展。报道称,Basalt 原生支持 NVFP4 量化格式,并为 Qwen3.8 Flash-Next 模型新增了 `.basalt` 打包格式。在硬件配置上,单张 RTX 5090(400W 功耗、128GB DDR5 内存)即可运行该模型,结构化输出速度达 304 tok/s,散文生成速度达 183 tok/s;若再搭配一张 5060 Ti,速度可进一步提升至 479 tok/s(结构化输出)和 239 tok/s(散文生成)。此前项目已为 Qwen3.8 Flash-Next 提供支持,本次更新主要新增了 NVFP4 量化与更快的预填(prefill)能力,并改善了单机部署的吞吐表现。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月18日
- Reddit · r/LocalLLaMABasalt:为 Qwen3.8 Flash-Nnext 加入 NVFP4 与更快 prefill,单卡 5090 可跑
Basalt 推理框架原生支持 NVFP4 量化,为 Qwen3.8 Flash-Nnext 提供新的 `.basalt` 打包格式,在单张 RTX 5090(400W、128GB DDR5)上结构化输出达 304 tok/s、散文 183 tok/s,搭配 5060 Ti 后可达 479/239 tok/s。
本事件热度走势
当前热度 9·可比范围峰值 10(10月18日 10:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。