何时该用本地部署的决策模型来降低延迟？OpenClaw 多智能体模拟的选型疑问

用户在 OpenClaw 上运行 50-100 个智能体的沙盒模拟，用决策模型判断智能体是否需要响应信号以减少 LLM 调用，目前使用 Jev 时受网络延迟影响单次响应约 0.5-2 秒。他想知道改用更小的本地决策模型能否降低延迟，并询问 Needle 3 等本地模型在不同 GPU 配置下的速度，以及能否完全在 CPU 上运行。