Reddit · r/LocalLLaMA· /u/I_am_purrfect·· 4 天前AI 评分63
玩家在FPGA上运行Qwen3.5 9B INT4:75MHz下单卡约2-3 tok/s
Qwen3.5 arch implementation in FPGA fabric for 9B/27B INT4 models on relatively cheap eBay mining hardware
AI 导读
作者使用eBay购买的SQRL FK33 FPGA开发板在75MHz下运行Qwen3.5 9B INT4模型,实测prefill约5.5-6 tok/s,生成约2.4-3.2 tok/s。文中还估算27B模型在多卡配置下的性能:2x VU35P在200MHz下可达约16 tok/s prefill和8 tok/s生成,4x VU35P四路并行约25 tok/s。项目已开源至GitHub。
来源:Reddit · r/LocalLLaMA · reddit.com