跳到正文
热点事件观察中

LlamAmpere v0.6 发布,单卡 3090 推理提速

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

2026年10月28日,Reddit 的 r/LocalLLaMA 版块出现 LlamAmpere v0.6 发布消息。报道称,该版本在单张 3090 显卡上运行 27B 模型时,100–105K token 区间平均达到 112 TPS,TPS 较此前提升约 13%;prompt 处理提升 20%,起始约 1800 TPS,并支持 400K 上下文。目前公开信息仅此一条,尚无更早报道可供对照,也未出现数字或说法上的前后矛盾。后续进展有待更多来源确认。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. Reddit · r/LocalLLaMA
    LlamAmpere v0.6 发布:单张 3090 上 27B 模型 100K token 区间达 112 TPS,支持 400K 上下文

    LlamAmpere v0.6 发布,在单张 3090 上跑 27B 模型时,100-105K token 区间平均达 112 TPS,TPS 提升约 13%,prompt 处理提升 20%、起始约 1800 TPS。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。