跳到正文
原文
Hacker News · 首页· speckx·· 4 天前AI 评分58

PostHog 实践总结:并非所有任务都需要 LLM

Not Everything Needs an LLM

AI 导读

PostHog 团队分享了在生产中使用决策模型替代 LLM 的经验,称决策模型比前沿模型便宜最多 444.6 倍、快 193.6 倍。在 Replay Vision 的 PII 清洗流程中,两道 yes/no 问题让 98.7% 的会话摘要跳过 Gemini 调用;Slack 机器人则用选择题把请求路由到最便宜的可用模型。

来源:Hacker News · 首页 · newsletter.posthog.com