跳到正文
原文
Reddit · r/LocalLLaMA· /u/MerlinTrashMan·· 4 小时前AI 评分10

128GB 内存 + 双 RTX 6000 Blackwell 工作站:该选哪个本地 AI 客户端和 Qwen 3.8 Flash 版本

128GB ram, 2x rtx6000 blackwell, lots and lots of storage, but stuck in paralysis choosing a harness / model

AI 导读

一位用户用 8 个月攒齐 128GB 内存、双 RTX 6000 Blackwell 和大量存储的工作站,计划每天 17 点后跑本地 AI,用于逆向工程、固件破解和金融数据实验,并希望避免实验数据进入大型厂商训练集。他此前在 3090 上用 C# + llama.cpp 跑 gemma3 做特定任务,现在想找桌面客户端来构建自主智能体、试新模型,并询问该配哪个版本的 Qwen 3.8 Flash。

来源:Reddit · r/LocalLLaMA · reddit.com