跳到正文
热点事件持续更新

Betelgeuse 让 68GB 模型在 RTX 3060 上运行

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月31日,有作者在 Reddit 的 r/LocalLLaMA 版块发布消息,称其开发了 llama.cpp 分支 Betelgeuse,包含 bel-cli 与 bel-server 两个组件。该分支在一台配备 RTX 3060 12GB 显卡和 16GB DDR4 内存的机器上,持续运行 Qwen 3.8 Flash Next 的 68GB GSQ-RCO-IQ2_XS 版本,速度达到 22.03 tok/s,峰值可达 48 tok/s。这是目前关于该事件的唯一报道,尚无后续进展或与其他报道矛盾之处。

AI 根据报道生成 · 6 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. Reddit · r/LocalLLaMA
    Betelgeuse 在 RTX 3060 12GB 加 16GB 内存上以 22 tok/s 运行 Qwen 3.8 Flash Next

    作者发布 llama.cpp 分支 Betelgeuse(bel-cli / bel-server),在 RTX 3060 12GB 加 16GB DDR4 的机器上以 22.03 tok/s 持续运行 Qwen 3.8 Flash Next 的 68GB GSQ-RCO-IQ2_XS 版本,峰值可达 48 tok/s。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。