Reddit · r/LocalLLaMA· /u/Opposite_Buffalo_649·· 4 小时前AI 评分8
RTX 6000 Blackwell 多卡推理能否搭配 eGPU 做副模型与显示输出
eGPU on blackwell for inferencing/display?
AI 导读
用户计划用 PCIe 插槽满插 RTX 6000 Blackwell 显卡做 tensor parallel 4 推理,想通过 Razer Core X V2 eGPU 盒经主板 Thunderbolt/USB 4 接口外接另一张 RTX 5070 Ti Blackwell,用于跑副模型并兼作显示卡以避免无头运行,并询问该方案是否可行。
来源:Reddit · r/LocalLLaMA · reddit.com