跳到正文
返回论文列表
cs.SE提交于 已译

可信 AI 队友用于软件工程:生命周期上下文、可解释性与智能体协作的研究议程

Trustworthy AI Teammates for Software Engineering: A Research Agenda for Lifecycle Context, Explainability, and Agentic Collaboration

Glaucia Melo

中文摘要

大语言模型正通过支持代码生成、测试、调试、文档编写和程序理解,迅速改变软件工程(SE)实践。然而,当前多数 AI 编程助手仍是反应式工具:它们响应局部提示,依赖有限上下文,给出的建议往往难以让开发者检查其依据。论文主张,AI 辅助软件工程的下一阶段需要从编程助手转向可信 AI 队友。围绕三项要求提出人机协同演化研究议程:第一,AI 系统须具备生命周期感知(lifecycle-aware),跨需求及其他部署产物推理,而非局限于孤立文件或提示;第二,须提供有原则的解释,暴露假设、证据、权衡与风险,以支持开发者判断;第三,须实现智能体协作(agentic collaboration),让专门化 AI 智能体参与软件工作流,同时保留人类监督与问责。提出超越孤立功能正确性的评估框架,转向协作质量,包括上下文对齐、信任校准、维护恢复成本与可追溯性。最后概述设计 AI 系统的开放挑战:提升软件质量而不削弱人类理解、能动性与责任。

关键要点

  1. 01现有 AI 编程助手多为反应式工具,上下文有限且建议依据难以检查。
  2. 02提出生命周期感知、可解释性与智能体协作三项核心要求。
  3. 03评估框架从功能正确性转向上下文对齐、信任校准等协作质量。
  4. 04开放挑战在于提升软件质量的同时不削弱人类理解与责任。

解读

尚无解读。

原始英文摘要

arXiv:2611.21624v1 Announce Type: new Abstract: Large Language Models are rapidly changing software engineering (SE) practice by supporting code generation, testing, debugging, documentation, and program comprehension. Yet most current AI coding assistants remain reactive tools: they respond to local prompts, rely on limited context, and provide suggestions whose rationale is often difficult for developers to inspect. This paper argues that the next phase of AI-assisted SE requires a shift from coding assistants to trustworthy AI teammates. We present a research agenda for human-AI co-evolution in SE, organized around three requirements. First, AI systems must become lifecycle-aware, reasoning across requirements and other deployment artifacts rather than isolated files or prompts. Second, they must provide principled explanations that expose assumptions, evidence, trade-offs, and risks in ways that support developer judgment. Third, they must enable agentic collaboration, in which specialized AI agents participate in software workflows while preserving human oversight and accountability. We propose an evaluation framework that moves beyond isolated functional correctness toward collaborative quality, including contextual alignment, trust calibration, maintenance recovery cost, and traceability. We conclude by outlining open challenges for designing AI systems that improve software quality without weakening human understanding, agency, or responsibility.

同方向论文 · cs.SE

查看全部 →

反向发现 · 这篇论文相关的工具与提示词

去交叉发现 →

关联工具 · 6

The Decoder79

Anthropic 用 Claude 自动验证现有代码的正确性

Anthropic 与 Theorem 让 Claude 为 123 个开源库生成约 1.8 亿行形式化证明代码,并通过 Rocq 自动检查。Claude 在验证过程中发现数百个缺陷,其中包括一个潜伏十余年的逻辑错误;但证明仅适用于特定处理器架构、单线程程序和低于 64 MB 的输入,单次证明最高消耗数亿 tokens,且正式验证不等于完全无错误。

推荐理由:实验展示了 Claude 自动生成形式化证明并发现隐蔽缺陷的方式,也明确了验证范围与计算成本限制。

Product Hunt · AI 分类62

ManyAgents 上线多智能体编码编排工具

ManyAgents 上线多智能体编码编排工具,可将任务分配给 Claude Code 和 Codex agents,并让各 agent 使用独立的 git worktree。其内置审查和浏览器测试环节,集中处理智能体提出的问题,并可复用已有计划。产品提供 14 天免费试用。

推荐理由:ManyAgents 将多个编码智能体、审查和测试环节集中到统一编排流程中,读者可据此理解多智能体协作的落地方式。

Reddit · r/artificial76

Anthropic 称 Claude Fable 5.2 调度 1000 多个子智能体,八天构建出可运行操作系统

Anthropic 在一项内部实验中让 Claude Fable 5.2 仅凭一个基础提示词和空项目文件夹,调度 1000 多个子智能体在八天内完成操作系统的编写、测试与审查,成品可在笔记本上启动,包含自研内核、硬件驱动、持久化文件存储、图形界面、登录界面和安装程序。

推荐理由:Anthropic 内部实验称 Claude Fable 5.2 调度千余子智能体八天写出可启动操作系统,同时点出算力成本与可靠性未披露。

Product Hunt · AI 分类66

AI Bridge 在 Mac 上并排运行 Claude Code、Codex、Grok 与 OpenCode

AI Bridge 可在 Mac 上并排运行 Claude Code、Codex、Grok 和 OpenCode,每个智能体均使用真实 CLI、真实终端和用户自己的订阅。Grid 可将多个智能体集中展示,并支持在旁侧对话 Kubernetes 集群和数据库,还可将智能体接入 Slack,在获得批准后回复。

推荐理由:AI Bridge 将多个真实 CLI 智能体集中编排,并接入集群、数据库和 Slack,适合参考多智能体协作工作流。

Reddit · r/artificial86

Google DeepMind 的 AlphaProof Code 用 4 周证明 Signal 实际编译代码安全,人工仅复核 1%

Google DeepMind 的 AlphaProof Code 在 4 周内对 Signal 的实际编译代码完成安全证明,覆盖实现而非仅协议设计。Gemini 驱动的智能体编写了超过 600 万行 Lean 证明并由 Lean 检查,人类专家只复核了智能体标记的约 1%。

推荐理由:材料呈现了从协议规范延伸到实际编译代码的验证路径,以及规范仍需人工撰写这一前提。

GitHub Blog · AI & ML67

GitHub Security Lab 发布 Taskflow Agent:实现 AI 驱动的自动化模糊测试

GitHub Security Lab 发布 Fuzzing Taskflow,这是一个基于 LLM Agent 的 C/C++ 项目自动化模糊测试管道。只需指定一个 GitHub 仓库,Agent 会自动完成入口点识别、构建系统分析、模糊测试用例生成、AFL++ 运行、覆盖率分析、用例优化和漏洞报告编写。

推荐理由:原文详细给出了自动化模糊测试的完整工作流程,包括覆盖率反馈循环、结构感知变异和语料库演进等具体机制,读者可据此迁移到自己的安全测试中。