跳到正文
返回论文列表
cs.SE提交于 已译

编码智能体还需要调试器吗?前沿模型在准确率天花板下的故障定位

Do Coding Agents Still Need a Debugger? Frontier-Model-Based Fault Localization at the Accuracy Ceiling

Christoph Daxerer · Johann Glock · Christian Macho · Rudolf Ramler · Martin Pinzger · Josef Pichler

中文摘要

评估编码智能体在无工具、可选及鼓励使用调试器三种模式下,对原始及经行为保持变换重构程序的故障定位准确率。在144个LeetCodeDataset解决方案中植入610个单行故障,使用Sol 6.1、Luna 6和Qwen 3.8进行定位。无工具时,智能体在原始程序上定位准确率为98.2%-99.9%,变换后为96.7%-99.9%,主要误差源于循环与条件重构。鼓励使用调试器使Luna 6和Qwen 3.8在变换程序上的剩余错误分别减少63%和61%(准确率提升2.1和1.3个百分点),但Token消耗增加14.7至27.0倍;Sol 6.1保持99.9%准确率。可选模式下,Luna 6和Qwen 3.8仍提升1.5和1.3个百分点,但仅0.2%-6.2%的运行使用了交互式调试。结论:在短且规格明确的程序中,当前智能体仅凭源码即可定位几乎所有故障,调试器可消除剩余大部分错误;智能体更倾向于执行程序而非单步调试,但仍保留了大部分收益。

关键要点

  1. 01在144个LeetCode解决方案中植入610个单行故障,测试Sol 6.1、Luna 6和Qwen 3.8的定位能力。
  2. 02无工具时,智能体在原始及变换程序上的定位准确率高达96.7%至99.9%,主要误差源于代码重构。
  3. 03鼓励使用调试器使Luna 6和Qwen 3.8准确率提升2.1和1.3个百分点,但Token消耗增加14.7至27.0倍。
  4. 04可选模式下,智能体仅0.2%至6.2%的运行使用交互式调试,但仍获得1.3至1.5个百分点的准确率提升。
  5. 05前沿模型仅凭源码即可定位几乎所有故障,调试器主要消除剩余错误,智能体更偏好执行程序而非单步调试。

解读

尚无解读。

原始英文摘要

arXiv:2610.36015v1 Announce Type: cross Abstract: Background: To localize a fault, a coding agent can reason from source code alone or use debugger assistance by running the program and stepping through it in an interactive debugger. While earlier agents struggled with static execution tracing and debugger operation, frontier LLMs have improved at both. Objective: We evaluate how accurately coding agents localize faults without tools across original and transformed programs, how much debugger assistance improves accuracy and at what cost, and how agents use it when optional. Methods: We seed 610 single-line faults into 144 LeetCodeDataset solutions and rewrite each faulty program with five recipes of behavior-preserving transformations. Agents based on Sol 6.1, Luna 6, and Qwen 3.8 localize each fault with no, optional, or encouraged debugger assistance. Results: Without tools, the agents localized 98.2 to 99.9% of faults in original and 96.7 to 99.9% in transformed programs, losing accuracy mainly where recipes restructured loops and conditions. Encouraged assistance removed 63% and 61% of Luna 6's and Qwen 3.8's remaining transformed errors (+2.1 and +1.3 percentage points) at 14.7 to 27.0 times the token use, while Sol 6.1 stayed at 99.9%. With optional assistance, Luna 6 and Qwen 3.8 still gained +1.5 and +1.3 points, though the agents used the interactive debugger in only 0.2 to 6.2% of runs. Conclusions: On short, precisely specified programs, current coding agents localize nearly all faults from source code alone, and debugger assistance removes most errors that remain. Given the choice, agents executed the program far more often than they stepped through it, yet kept most of the benefit.

同方向论文 · cs.SE

查看全部 →

反向发现 · 这篇论文相关的工具与提示词

去交叉发现 →

关联提示词 · 6

编程tech.qimao.com·外部收录·

按规范检查 Go 代码改动,分析问题与服务影响并生成 Code Review 报告

``` # Code Review 规范 你是 golang 编程的专家,现在对代码进行 Code Review,请按照以下步骤进行: (若遇到 git 命令分页的情况,请加上`| cat`) ## 步骤一:代码规范检查 - [ ] 是否遵循最佳实践 @.cursor/rules/rule-code-spec.mdc - [ ] 是否存在重复代码 - [ ] 是否有充分的注释和文档 - [ ] 是否易于理解和维护 ## 步骤二:功能问题分析 - [ ] 分析本次代码改动的影响…

编程zhuanlan.zhihu.com·外部收录·

用于指导 Claude Code 按阶段规划、测试驱动实现、重构并提交代码。

### 1. 规划与分阶段 将复杂的工作分解为 3-5 个阶段。在 `IMPLEMENTATION_PLAN.md` 中记录: ```text ## 阶段 N: [Name] **目标**: [具体可交付成果] **成功标准**: [可测试的结果] **测试**: [具体的测试用例] **状态**: [未开始|进行中|已完成] ``` * 随着进展更新状态 * 所有阶段完成后删除文件 ### 2. 实现流程 1. **理解** - 研究代码库中的现有模式 2. **测试**…

编程github.com/PlexPt/awesome-chatgpt-prompts-zh·外部收录·

充当全栈软件开发人员

我想让你充当软件开发人员。我将提供一些关于 Web 应用程序要求的具体信息,您的工作是提出用于使用 Golang 和 Angular 开发安全应用程序的架构和代码。我的第一个要求是'我想要一个允许用户根据他们的角色注册和保存他们的车辆信息的系统,并且会有管理员,用户和公司角色。我希望系统使用 JWT 来确保安全。

编程github.com/PlexPt/awesome-chatgpt-prompts-zh·外部收录·

充当前端智能思路助手

我想让你充当前端开发专家。我将提供一些关于Js、Node等前端代码问题的具体信息,而你的工作就是想出为我解决问题的策略。这可能包括建议代码、代码逻辑思路策略。我的第一个请求是“我需要能够动态监听某个元素节点距离当前电脑设备屏幕的左上角的X和Y轴,通过拖拽移动位置浏览器窗口和改变大小浏览器窗口。”

编程github.com/PlexPt/awesome-chatgpt-prompts-zh·外部收录·

充当 Linux 终端

我想让你充当 Linux 终端。我将输入命令,您将回复终端应显示的内容。我希望您只在一个唯一的代码块内回复终端输出,而不是其他任何内容。不要写解释。除非我指示您这样做,否则不要键入命令。当我需要用英语告诉你一些事情时,我会把文字放在中括号内[就像这样]。我的第一个命令是 pwd