IBM Research 分析模型路由的三大误区：成本、难度和延迟远比表面复杂

IBM Research 基于 AppWorld 挑战赛和 CodeAct 智能体的实际测试，揭示了模型路由的三个反直觉发现：缓存使实际成本与定价脱钩；任务难度在路由时常不可见且只是多目标之一；模型速度不等于用户体验速度。他们将路由从分类问题重新建模为系统优化问题，实现了在 84% 准确率下 21% 成本降低和 9% 延迟降低。