Hacker News · 首页· ankitvgupta·· 1 天前AI 评分58
作者用编码智能体在 FPGA 上跑通 LLM 推理,速度提升 33 倍
Vibecoding an inference chip
AI 导读
作者借助 Codex 等编码智能体在 AWS F2 FPGA 上跑通一个三元权重模型,从首个 bit-exact 版本的 6.43 tok/s 优化到 213.13 tok/s,约 33 倍,消耗约 1 万美元 Claude 和 OpenAI token。
来源:Hacker News · 首页 · ankitg.me