跳到正文
原文
Reddit · r/LocalLLaMA· /u/ElekDn·· 3 小时前AI 评分5

旧服务器装双 3060 12GB 跑 MoE 模型:Z640 装机求助讨论

Old server machine with 2x 3060 12GB for MoE models, anything I’m missing?

AI 导读

一位用户计划以约 €550 购入二手 HP Z640 二手服务器,配 2x E5-2680 v4、64GB ECC 与 Quadro M6000 24GB,加装两块 3060 12GB 后打算本地运行 Qwen 3.8 Flash Next(使用 Strata)以及 llama.cpp。

来源:Reddit · r/LocalLLaMA · reddit.com