跳到正文
返回论文列表
cs.AI提交于 已译

自主权归属何处:智能体程序演化的权力分立

Where Autonomy Belongs: A Separation of Powers for Agentic Program Evolution

Zhengyang Ai · Tong Liu · Jingxian Tang · Xiaobing Du · Tao Xiao · Fengshi Zhang · et al.

中文摘要

LLM 驱动的程序演化依赖三项决策:治理(govern)依据积累证据引导搜索,提议(propose)构造下一个候选,评判(judge)裁定有效性与适应度。三者出现在每个系统中,现有工作按谁做每项决策分成两条路线。以控制器为中心的系统强化治理而忽视提议的自主性,限制了演化可达范围;以智能体为中心的系统让编码智能体同时接管治理与提议,带来认知与计算开销。两条路线都未保护评判的独立权威,导致基准可靠性受损。这些失败的共同根源是自主权在三项决策间分配失当。EvoTrias 采用权力分立架构,每项决策有唯一归属:结构化治理负责跨演化轮次的事务,开放提议负责任务内的构造,受保护评判置于私有评估器之后。各归属方仅通过类型化契约交换信息,运行时钩子强化边界。该分离还使 EvoTrias 可作为插件将现有编码智能体转为演化系统。EvoTrias 在数学、系统与算法设计基准上取得新的最优结果。三项进一步结果说明各归属方的价值:治理与提议分离使 token 成本降低 64%,开放提议将演化扩展到 68 万行的工业级代码库,受保护评判使基准分数与迁移表现保持一致。

关键要点

  1. 01问题:现有 LLM 程序演化系统将自主权错误分配在治理、提议、评判三项决策上,导致演化范围受限、成本高、基准不可靠。
  2. 02方法:EvoTrias 采用权力分立架构,三项决策各由唯一归属方负责,仅通过类型化契约交换信息,并以运行时钩子强化边界。
  3. 03结果:在数学、系统与算法设计基准上取得新的最优成绩,且可作为插件将现有编码智能体转为演化系统。
  4. 04结果:治理与提议分离使 token 成本降低 64%,开放提议将演化扩展到 68 万行工业级代码库。
  5. 05结果:受保护评判使基准分数与迁移表现保持一致,提升评测可靠性。

解读

尚无解读。

原始英文摘要

arXiv:2611.15309v1 Announce Type: new Abstract: LLM-driven program evolution rests on three decisions: govern directs the search from accumulated evidence, propose constructs the next candidate, and judge settles validity and fitness. All three appear in every system, and existing work splits into two lines over who makes each. Controller-centric systems strengthen govern and neglect the autonomy of propose, which caps what evolution can reach. Agent-centric systems let a coding agent take over both govern and propose, at a cognitive and computational cost. Neither line protects the independent authority of judge, so benchmark reliability suffers. These failures share one root: autonomy is misallocated across the three decisions. We address this problem with EvoTrias, a separation-of-powers architecture in which each decision has one owner: Structured Governance for what spans evolution rounds, Open Proposal for construction inside a task, and Protected Judgment behind a private evaluator. These owners exchange typed contracts only, and runtime hooks reinforce the boundaries. This separation also lets EvoTrias run as a plugin that turns an existing coding agent into an evolution system. EvoTrias sets a new state of the art on mathematical, systems, and algorithm-design benchmarks. Three further results show what each owner buys: separating Governance from Proposal cuts token cost by 64%, Open Proposal extends evolution to a 680K-line industrial repository, and Protected Judgment keeps benchmark scores faithful to transfer.

同方向论文 · cs.AI

查看全部 →

反向发现 · 这篇论文相关的工具与提示词

去交叉发现 →

关联工具 · 5

Hacker News · 首页78

AgentRun 开源发布:为 Agent 加上自改进与持久执行

Parcha Labs 开源 AgentRun,在 Claude Code、Codex、OpenCode、pi 等 Agent harness 之上加入自改进、持久执行和控制面,采用 Apache-2.0 许可。

推荐理由:原文给出自改进、持久执行与控制面的具体机制和成本案例,读者可据此判断它如何接入现有 Agent 工作流。

The Decoder79

Anthropic 用 Claude 自动验证现有代码的正确性

Anthropic 与 Theorem 让 Claude 为 123 个开源库生成约 1.8 亿行形式化证明代码,并通过 Rocq 自动检查。Claude 在验证过程中发现数百个缺陷,其中包括一个潜伏十余年的逻辑错误;但证明仅适用于特定处理器架构、单线程程序和低于 64 MB 的输入,单次证明最高消耗数亿 tokens,且正式验证不等于完全无错误。

推荐理由:实验展示了 Claude 自动生成形式化证明并发现隐蔽缺陷的方式,也明确了验证范围与计算成本限制。

Reddit · r/artificial76

Anthropic 称 Claude Fable 5.2 调度 1000 多个子智能体,八天构建出可运行操作系统

Anthropic 在一项内部实验中让 Claude Fable 5.2 仅凭一个基础提示词和空项目文件夹,调度 1000 多个子智能体在八天内完成操作系统的编写、测试与审查,成品可在笔记本上启动,包含自研内核、硬件驱动、持久化文件存储、图形界面、登录界面和安装程序。

推荐理由:Anthropic 内部实验称 Claude Fable 5.2 调度千余子智能体八天写出可启动操作系统,同时点出算力成本与可靠性未披露。

GitHub Blog · AI & ML67

GitHub Security Lab 发布 Taskflow Agent:实现 AI 驱动的自动化模糊测试

GitHub Security Lab 发布 Fuzzing Taskflow,这是一个基于 LLM Agent 的 C/C++ 项目自动化模糊测试管道。只需指定一个 GitHub 仓库,Agent 会自动完成入口点识别、构建系统分析、模糊测试用例生成、AFL++ 运行、覆盖率分析、用例优化和漏洞报告编写。

推荐理由:原文详细给出了自动化模糊测试的完整工作流程,包括覆盖率反馈循环、结构感知变异和语料库演进等具体机制,读者可据此迁移到自己的安全测试中。

Reddit · r/artificial77

独立开发者用 AIPass 构建持久化 AI 智能体团队

独立开发者以 AIPass 构建由 DevPulse 统领的持久化 AI 智能体团队,用于规划、执行、测试和持续维护项目。各智能体拥有独立身份、记忆、邮箱、代码、测试与历史,DevPulse 负责分派任务、审查结果和集成改动,并按 CPU 容量安排工作;系统正整合 Codex 与 Claude Code,让同一智能体跨模型提供商保持身份和知识。

推荐理由:文章完整拆解了持久化智能体团队的角色分工、任务调度与资源限制,可供开发者理解多智能体工程实现。