跳到正文
热点事件观察中

用户借编码智能体在FPGA上跑通LLM推理

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

2026年11月21日,Hacker News 首页一则报道称,有作者借助 Codex 等编码智能体,在 AWS F2 FPGA 上跑通了一个三元权重模型的 LLM 推理。报道称,该实现从首个 bit-exact 版本的 6.43 tok/s 优化到 213.13 tok/s,速度提升约 33 倍,过程中消耗了约 1 万美元的 Claude 和 OpenAI token。目前进展停留在这一单篇报道所述结果,尚无后续更新。

AI 根据报道生成 · 1 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. Hacker News · 首页
    作者用编码智能体在 FPGA 上跑通 LLM 推理,速度提升 33 倍

    作者借助 Codex 等编码智能体在 AWS F2 FPGA 上跑通一个三元权重模型,从首个 bit-exact 版本的 6.43 tok/s 优化到 213.13 tok/s,约 33 倍,消耗约 1 万美元 Claude 和 OpenAI token。

本事件热度走势

当前热度 5·可比范围峰值 10(11月21日 04:00)·近 24 小时可比范围变化 -49%

02.557.51011月21日04:0011月21日12:0011月21日20:0011月22日04:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。