跳到正文
原文
Reddit · r/LocalLLaMA· /u/mrgreatheart·· 3 小时前AI 评分9

玩家升级 Epyc 推理主机:256GB RAM + 72GB VRAM 跑 GLM5.3-flash 等大模型

Epyc inference rigs

AI 导读

一位 Reddit 用户分享其自建 Epyc 推理主机的升级方案,核心配置为 Epyc 7443(24 核 48 线程)配 H12SSL-NT-B 主板与 256GB DDR4 内存,叠加四卡共 72GB VRAM(3090 + 5070 Ti + 两张 5060 Ti)。

来源:Reddit · r/LocalLLaMA · reddit.com