跳到正文
原文
Reddit · r/LocalLLaMA· /u/Otherwise-Tangelo-52·· 2 天前AI 评分8

NVIDIA Blackwell 4000 与 RTX 3060 能否组合用于本地 LLM 推理

Blackwell + consumer GPU

AI 导读

用户询问能否将一张 NVIDIA Blackwell 4000 24GB 与旧款 RTX 3060 12GB 组合,用于本地运行大语言模型(侧重编程任务),并希望了解 tensor split 是否支持这种跨代显卡混搭配置。

来源:Reddit · r/LocalLLaMA · reddit.com