Reddit · r/LocalLLaMA· /u/paq85·· 4 小时前AI 评分34
自托管 LLM 真实成本计算器：对比本地 GPU 与云 API 每百万 token 费用
How much does your local LLM server really cost? (power draw + tok/s, self-hosted vs cloud API, free in-browser) :)
AI 导读
一款浏览器内运行的 LLM 自托管成本计算器，基于 GPU 功耗（W）与 prompt/decode 阶段的 tok/s，结合每 kWh 电价，输出每小时、每次请求、每月及每 1M input token 的成本，并分别给出含与不含 KV cache 的结果。
来源：Reddit · r/LocalLLaMA · reddit.com