跳到正文
热点事件持续更新

vast.ai 上 EPYC + RTX 3090 实测 Qwen 3.8 Flash Next

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026 年 11 月 1 日,Reddit r/LocalLLaMA 有用户发帖,称在 vast.ai 租用的服务器上实测了 Qwen 3.8 Flash Next Unsloth Q8 的推理性能。该服务器配置为 2 颗 AMD EPYC 7642 处理器、ROME 主板与 2 张 RTX 3090 显卡。测试使用 Strata 运行该模型,在 124k 上下文下,单流达到 94 tok/s,8 路并发达到 456 tok/s,并发扩展接近线性。目前该事件仅有这一篇报道,尚无后续进展。

AI 根据报道生成 · 41 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月1日
  1. Reddit · r/LocalLLaMA
    在 AMD EPYC 服务器上用 Strata 跑 Qwen 3.8 Flash Next Unsloth Q8:8 路并发达 456 tok/s

    在 vast.ai 租用 2x AMD EPYC 7642 配 ROME 主板与 2x 3090 的服务器实测,Strata 运行 Qwen 3.8 Flash Next Unsloth Q8 在 124k 上下文下达到单流 94 tok/s、8 路并发 456 tok/s,并发扩展接近线性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。