跳到正文
原文
Reddit · r/LocalLLaMA· /u/bryancostanich·· 2 小时前AI 评分7

48GB / 64GB / 96GB 内存可跑哪些用于开发任务的开源权重模型?Reddit 用户调研

anyone running good open weight models for development in 48GB, 64GB or 96GB of RAM?

AI 导读

一位开发者在 Reddit r/LocalLLaMA 提问:在 48GB、64GB 或 96GB 内存的机器上,有哪些开源权重模型适合开发任务可用,并询问它们各自的内存占用。他此前在 128GB 机器上的经验表明,本地开源模型配合前沿模型规划调度即可胜任开发工作,所以想搞清楚在更低内存条件下还能用什么模型。

来源:Reddit · r/LocalLLaMA · reddit.com