跳到正文
原文
Reddit · r/LocalLLaMA· /u/hyudryu·· 4 小时前AI 评分36

本地运行 GLM 5.3 flash 比云端订阅快 4.2 倍

Underrated benefit of Local AI: Speed

AI 导读

同一 GLM 5.3 flash 模型在相同 Zcode harness 和提示词下,本地部署完成耗时 10:24,云端订阅版为 43:48,本地快 4.2 倍,输出均约 118K tokens。该任务云端仅省下 0.70 美元,但本地部署每天可多交付 3-4 倍代码。测试环境为 2 块 RTX Pro 6000 工作站版、AMD 9960x Threadripper 与 128GB DDR5。

来源:Reddit · r/LocalLLaMA · reddit.com