Reddit · r/LocalLLaMA· /u/IngwiePhoenix·· 8 天前AI 评分19
AMD R9700 双卡推理:PCIe Gen4 与 Gen5 的性能差异
Penalties of PCIe generations? (2x R9700)
AI 导读
用户在双 AMD R9700 GPU 配置下(64GB VRAM pooling)使用 llama.cpp + ROCm 进行本地大语言模型推理,就 PCIe Gen4 相比 Gen5 带来的性能损失提出技术咨询,旨在寻找可节省成本的 DDR4/Gen4 方案。
来源:Reddit · r/LocalLLaMA · reddit.com