跳到正文
原文
Simon Willison·· 4 小时前AI 评分8

llm-echo 0.5:更新对工具调用、system prompt 和推理 token 的模拟用量统计

llm-echo 0.5

AI 导读

llm-echo 0.5 调试插件发布,能够更准确地模拟包含工具调用、system prompt 和推理 token 的用量统计。该插件提供一个不调用真实 LLM、只回显 prompt 的"模型",现可在 token 计数中覆盖上述三类来源,方便开发者在向新 LLM 发布版本迭代过程中测试 PR。

来源:Simon Willison · simonwillison.net