跳到正文
热点事件持续更新

Mesh Applied 发布 Qwen3.8 量化优化版模型

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Mesh Applied 发布了针对千问 Qwen3.8 的量化优化版本 Qwen3.8-Flash-Next-NVFP4,主打在消费级与单卡硬件上的高吞吐推理。据最新报道,该模型通过后训练、量化和 kernel 专项优化,可在单张 RTX 5090 上达到约 255 tok/s 的推理速度;面向编码与日常任务的版本则推荐使用 1 张 RTX 6000,4 用户聚合吞吐约 334 tok/sec。模型以开源形式提供,支持本地硬件部署。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. Hacker News · 首页
    在单张 5090 上以 255 tok/s 运行千问 Qwen3.8

    通过后训练、量化和 kernel 专项优化,Qwen3.8-Flash-Next-NVFP4 可在单卡 RTX 5090 上达到约 255 tok/s 的推理速度;面向编码和日常任务的版本推荐使用 1× RTX 6000,4 用户聚合吞吐约 334 tok/sec。模型以开源形式提供,支持本地硬件部署。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。