跳到正文
原文
Reddit · r/LocalLLaMA· /u/BobtheGodGamer·· 4 小时前AI 评分13

Dell PowerEdge R820 DDR3 服务器用于大模型推理的可行性讨论

Monolithic ddr3 server

AI 导读

Reddit 用户询问 Dell PowerEdge R820 服务器能否用于大模型推理,并考虑添加 GPU。帖子以 $550 USD 的本地服务器配置为讨论基础,包括 4 颗 Intel E5-4640、768GB RAM 和 2 块 146GB HDD;用户同时关注消费级桌面快速运行大型 MoE 模型的新项目。

来源:Reddit · r/LocalLLaMA · reddit.com