Reddit · r/MachineLearning· /u/Jay299792458·2026-10-28 21:11· 2 天前AI 评分31

一个在工具执行前记录 LLM 智能体工具参数来源的测试框架

A harness that records where an LLM agent’s tool arguments came from, before the tool runs [P]

AI 导读

有开发者构建了一个测试框架，在工具执行前记录 LLM 智能体每个工具参数的来源，并测量相同输入是否产生相同决策、测试模型是否会从他人文本而非用户处获取参数。该框架可用于研究模型行为，修改后还能扩展更多用途。