Reddit · r/LocalLLaMA· /u/mrgreatheart·· 3 小时前AI 评分9
玩家升级 Epyc 推理主机:256GB RAM + 72GB VRAM 跑 GLM5.3-flash 等大模型
Epyc inference rigs
AI 导读
一位 Reddit 用户分享其自建 Epyc 推理主机的升级方案,核心配置为 Epyc 7443(24 核 48 线程)配 H12SSL-NT-B 主板与 256GB DDR4 内存,叠加四卡共 72GB VRAM(3090 + 5070 Ti + 两张 5060 Ti)。
来源:Reddit · r/LocalLLaMA · reddit.com