Reddit · r/LocalLLaMA· /u/Slight_Analysis_5414·· 2 小时前AI 评分24
本地工具调用智能体不应让模型自授权操作:基于 Ollama 与 vLLM 的 192 次实测
Even good models shouldn't authorize their own tool calls — 192 local runs with Ollama and vLLM
AI 导读
作者通过 192 次本地实测验证,即便模型生成语法正确的工具调用,也应由系统层判定是否真正授权。实验中基于 vLLM 0.29.1rc1 nightly + Qwen2.5-1.5B-Instruct 与 Ollama 0.40.1 + qwen2.5。
来源:Reddit · r/LocalLLaMA · reddit.com