Simon Willison·· 4 小时前AI 评分8
llm-echo 0.5:更新对工具调用、system prompt 和推理 token 的模拟用量统计
llm-echo 0.5
AI 导读
llm-echo 0.5 调试插件发布,能够更准确地模拟包含工具调用、system prompt 和推理 token 的用量统计。该插件提供一个不调用真实 LLM、只回显 prompt 的"模型",现可在 token 计数中覆盖上述三类来源,方便开发者在向新 LLM 发布版本迭代过程中测试 PR。
来源:Simon Willison · simonwillison.net