为什么应该自建 LLM 代理：掌控推理基础设施的可观测性

作者主张用户应自建 LLM 代理以掌握 token 用量、调用链路与模型切换的可观测性。供应商自带的使用面板缺乏时序与日志细节，无法支撑工程决策；自建代理可统一多 provider/多模型端点、用 OTel 导出日志、为不同场景分配虚拟 API key、快速切换模型而无需重配整套系统。作者认为，对推理基础设施做埋点与监控是做工程岗位的基本要求。