Reddit · r/LocalLLaMA· /u/mrgreatheart·· 4 小时前AI 评分34
从 Core Ultra 7 换到 EPYC 7443:本地 LLM 推理的修复清单与前后性能对比
Switching to EPYC: what I had to fix, and before/after numbers
AI 导读
一位用户把本地推理平台从 Core Ultra 7 265KF 迁到 EPYC 7443(24 核 Zen 3、4 CCD),配 256 GB DDR4 ECC 八通道内存,GLM-5.3-Flash 解码从 9.7 tok/s 提升到 41.0 tok/s(4.2×),DeepSeek-V4.1-Flash 从 9.3 提升到 35.2 tok/s(3.8×)。
来源:Reddit · r/LocalLLaMA · reddit.com