热点事件持续更新
Mesh Applied 发布 Qwen3.8 量化优化版模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Mesh Applied 发布了针对千问 Qwen3.8 的量化优化版本 Qwen3.8-Flash-Next-NVFP4,主打在消费级与单卡硬件上的高吞吐推理。据最新报道,该模型通过后训练、量化和 kernel 专项优化,可在单张 RTX 5090 上达到约 255 tok/s 的推理速度;面向编码与日常任务的版本则推荐使用 1 张 RTX 6000,4 用户聚合吞吐约 334 tok/sec。模型以开源形式提供,支持本地硬件部署。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 06:31
Qwen3.8-Flash-Next-NVFP4 在单卡 RTX 5090 上实现约 255 tok/s 推理,开源发布。报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- Hacker News · 首页在单张 5090 上以 255 tok/s 运行千问 Qwen3.8
通过后训练、量化和 kernel 专项优化,Qwen3.8-Flash-Next-NVFP4 可在单卡 RTX 5090 上达到约 255 tok/s 的推理速度;面向编码和日常任务的版本推荐使用 1× RTX 6000,4 用户聚合吞吐约 334 tok/sec。模型以开源形式提供,支持本地硬件部署。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。