跳到正文
返回论文列表
cs.SE提交于 已译

软件工程工厂:代码充裕时代的工程问责与控制

The Software Engineering Factory: Engineering Accountability and Control in the Age of Abundant Code

Ahmed E. Hassan · Zhe Chen · Amr E. Mohamed · Keheliya Gallaba · Daniel German · Waleed Kadous · et al.

中文摘要

AI 智能体(AI agent)现在能以人类组织无法逐行审查的规模来规划、编写、测试、审查和修改代码,因此最终代码审查不能再作为拥有代码变更的主要组织控制手段。软件工程(SE)工厂将控制权移入生产代码的过程本身。工厂协议定义了工作如何流转、推进前必须存在哪些证据,以及谁对结果负责。一个确定性的协议引擎以常规代码而非提示词实现,通过控制阶段转换、要求证据、调用门禁并在需要时触发人工升级来强制执行这些协议。SE 工厂保留人类对重大决策的权威,使可问责的验收成为可能,而无需人类监督每个智能体的动作。SE 工厂不是黑暗工厂。人类通过定义委托的范围与粒度、边界与升级条件,以及需要可问责人类判断的重大决策来保持控制。基于构建三个不同 SE 工厂实现的经验——三者均经过多次迭代,其中两个已作为开源系统公开——总结出十条原则,用于大规模构思、构建和运营 SE 工厂,这些原则扎根于实现中的组织与技术现实。我们不声称这些原则是穷尽的或构成 SE 工厂唯一可行基础,而是将其作为概念支架和共享词汇,用于推理 SE 工厂、评估其设计并指导其演进。目标是推动全社区对话,使软件工程超越为人类规模代码生产设计的控制手段,迈向有纪律、可扩展且可信赖的智能体未来。

关键要点

  1. 01AI 智能体可大规模生成代码,逐行人工审查已不可行,最终代码审查无法作为主要控制手段。
  2. 02SE 工厂将控制移入生产过程,用确定性协议引擎以常规代码强制执行阶段转换、证据要求和门禁。
  3. 03人类保留对重大决策的权威,通过定义委托范围、边界与升级条件实现可问责验收,而非监督每个动作。
  4. 04基于三个 SE 工厂实现(两个已开源)的经验,提炼出十条大规模构建与运营 SE 工厂的原则。
  5. 05这些原则作为概念支架和共享词汇,旨在推动社区对话,而非声称穷尽或唯一可行。

解读

尚无解读。

原始英文摘要

arXiv:2611.21623v1 Announce Type: new Abstract: AI agents can now plan, write, test, review, and revise code at a volume no human organization can inspect line by line. Final code review therefore cannot remain the primary organizational control for owning code changes. The Software Engineering (SE) Factory moves control into the process that produces the code. The Factory protocols define how work moves, what evidence must exist before it can proceed, and who owns the result. A deterministic protocol engine, implemented in conventional code rather than prompts, enforces those protocols by controlling stage transitions, requiring evidence, and invoking gates and human escalation, where needed, before work can advance. The SE Factory preserves human authority over consequential decisions and makes accountable acceptance possible without requiring humans to supervise every agent action. The SE Factory is not a dark factory. Humans remain in control by defining the scope and granularity of delegation, the boundaries and escalation conditions, and the consequential decisions that require accountable human judgment. We draw on our experience building three distinct SE Factory implementations, all of which have undergone multiple iterations and two of which are publicly available as open-source systems, into ten principles for conceiving, building, and operating SE Factories at scale, grounded in the organizational and technical realities of our implementations. We do not claim that these principles are exhaustive or constitute the only viable foundation for an SE Factory. Rather, we offer them as a conceptual scaffold and shared vocabulary for reasoning about SE Factories, evaluating their designs, and guiding their evolution. Our goal is to catalyze a community-wide dialogue that moves software engineering beyond controls designed for human-scale code production toward a disciplined, scalable, and trustworthy agentic future.

同方向论文 · cs.SE

查看全部 →

反向发现 · 这篇论文相关的工具与提示词

去交叉发现 →

关联工具 · 4

The Decoder79

Anthropic 用 Claude 自动验证现有代码的正确性

Anthropic 与 Theorem 让 Claude 为 123 个开源库生成约 1.8 亿行形式化证明代码,并通过 Rocq 自动检查。Claude 在验证过程中发现数百个缺陷,其中包括一个潜伏十余年的逻辑错误;但证明仅适用于特定处理器架构、单线程程序和低于 64 MB 的输入,单次证明最高消耗数亿 tokens,且正式验证不等于完全无错误。

推荐理由:实验展示了 Claude 自动生成形式化证明并发现隐蔽缺陷的方式,也明确了验证范围与计算成本限制。

Reddit · r/artificial86

Google DeepMind 的 AlphaProof Code 用 4 周证明 Signal 实际编译代码安全,人工仅复核 1%

Google DeepMind 的 AlphaProof Code 在 4 周内对 Signal 的实际编译代码完成安全证明,覆盖实现而非仅协议设计。Gemini 驱动的智能体编写了超过 600 万行 Lean 证明并由 Lean 检查,人类专家只复核了智能体标记的约 1%。

推荐理由:材料呈现了从协议规范延伸到实际编译代码的验证路径,以及规范仍需人工撰写这一前提。

Hacker News · 首页78

JetBrains 开源 ThinkRail 智能体 IDE

JetBrains 发布并开源 ThinkRail,这是一款围绕 pi 编码智能体构建的 IDE,支持基于 git worktree 的隔离工作区、并行会话和按项目维护的 SPEC.md。它还提供可复用技能、MCP 服务器、GitHub PR 工作流、JetBrains AI 及自有模型提供商接入,并以桌面应用、浏览器和 CLI 形式运行,代码采用 Apache License 2.0。

推荐理由:ThinkRail 把隔离工作区、项目规格、技能和 MCP 接入整合进编码智能体界面,完整说明了安装、配置与运行方式。

Reddit · r/artificial76

Anthropic 称 Claude Fable 5.2 调度 1000 多个子智能体,八天构建出可运行操作系统

Anthropic 在一项内部实验中让 Claude Fable 5.2 仅凭一个基础提示词和空项目文件夹,调度 1000 多个子智能体在八天内完成操作系统的编写、测试与审查,成品可在笔记本上启动,包含自研内核、硬件驱动、持久化文件存储、图形界面、登录界面和安装程序。

推荐理由:Anthropic 内部实验称 Claude Fable 5.2 调度千余子智能体八天写出可启动操作系统,同时点出算力成本与可靠性未披露。