4卡R9700搭建本地LLM推理服务器

据2026年10月11日报道，一位开发者在Reddit r/LocalLLaMA板块分享了其为一客户搭建的本地AI推理集群方案。该项目为一家约10人的初创公司服务，采用4张AMD Radeon R9700 AI Pro 32GB显卡，合计提供128GB VRAM，搭配AMD Threadripper 9970x处理器、128GB DDR5 ECC内存及1600W电源，整机预算为1.8万美元。该方案旨在为大语言模型本地推理提供充足的显存与算力支持。目前报道未披露性能测试结果、所用模型细节及上线使用情况。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。