谁说服了谁？追踪多智能体系统中 LLM 如何改变想法

1. 问题与价值

这篇论文解决的核心问题是：多智能体辩论（Multi-Agent Debate, MAD）中，多个语言模型智能体达成一致意见，是否真的意味着它们独立地验证了同一个答案？论文指出，辩论后的“共识”可能只是复制、顺从或说服的结果，而非独立佐证。

这个问题重要，因为 MAD 被广泛宣传为提升 LLM 决策质量的方法，而现有评估大多只看最终准确率。如果三个智能体一致同意，但实际上是其中一个说服了另外两个，那么“三个独立判断”的证据价值就坍塌成了“一个判断被传播了三次”。这直接影响任何依赖多智能体投票来降低错误率、提高可靠性的系统设计。

受益者包括：使用多智能体系统做高风险决策的工程师（他们需要知道共识是否可信）、研究 LLM 社会行为的学者（他们需要区分“修正错误”和“盲从”）、以及可解释性研究者（他们需要知道影响从哪一层、哪条注意力路径进入模型）。

2. 已有工作的不足

在本文之前，最好的做法大致分两类。

一类是 Du et al. (2023) 和 Chen et al. (2024) 提出的多智能体辩论框架，以及 Smit et al. (2024)、Li et al. (2026) 等后续评估。这些工作主要问“辩论是否提高最终准确率”，把共识当作正面信号。不足在于：它们没有把“辩论带来的额外推理计算”和“同伴通信本身”分开。一个智能体多读几轮自己的回答也可能提高准确率，这不等于同伴消息起了作用。

另一类是行为研究，如 Weng et al. (2025)、Zhu et al. (2025)、Estornell & Liu (2024) 记录了 LLM 的顺从和错误传播。不足在于：这些工作大多停留在行为层面，没有追踪同伴消息在模型内部通过哪条路径改变决策，也没有区分“读到的推理”和“写出的推理”哪个才是真正的影响载体。

Choi et al. (2025a) 是一个关键前作，它指出多数投票驱动了大部分报告中的增益，辩论本身并不提高期望正确率。但它的结论停留在群体结果层面，没有回答“一条同伴消息如何改变一个智能体的决策”这个个体机制问题。

3. 重建作者的思考路径

如果是我面对第 2 项里的不足，我会先想到：要分离“同伴通信”的贡献，最直接的办法是设一个对照组，让同样的智能体在同样的轮数里独立反思，只是看不到别人的回答。这样，辩论和反思之间的差异就纯粹来自同伴消息。这一步比较自然，论文也确实这么做了。

接下来我会撞上第一个矛盾：即使辩论改变了答案，我怎么知道这个改变是“读了同伴之后立刻发生的”，还是“自己写推理的过程中慢慢想通的”？一个直接的想法是：在智能体刚读完同伴消息、还没开始写自己的推理时，强制它先给出答案。如果这时候的答案已经和最终答案一致，说明决策在写推理之前就定了。这个想法对应论文的 forced-choice readout。

做完这个实验，我会发现一个新问题：强制读出的答案一致，可能是因为同伴的“答案行”起了作用，也可能是因为同伴的“推理段落”起了作用。于是下一步自然是把同伴消息拆成“只有答案”和“只有推理”两个版本，分别测它们对决策的影响。这里我可能会预期答案行更重要，因为答案更直接。但论文发现推理占主导，这是一个反直觉的分叉点。

再往下，我会想到：同样的文本，如果标注成“你自己上一轮写的”和“另一个智能体写的”，影响会不会不同？这来自一个朴素的怀疑——LLM 可能对自己的输出有偏好。这一步对应论文的 authorship 实验。

然后我会撞上第二个矛盾：如果影响确实存在，它走的是哪条内部路径？最现成的工具是注意力掩码，把同伴消息的 key 位置屏蔽掉。但我很快会发现，有些模型（如 Qwen3.5-9B 的 Gated DeltaNet 层）根本没有可屏蔽的注意力边，因为上下文走的是循环状态。这就逼出一个问题：注意力掩码在混合架构里会不会漏掉影响路径？论文用“完整注意力屏蔽只移除 80% 影响”来回答这个问题。

最后，我会意识到：个体层面的影响机制再清楚，也不能直接说明群体层面的共识质量。于是需要把个体影响和群体结果连起来，看辩论是否真的提高了准确率、是否增加了“集体犯错”的概率、以及三个智能体在统计上还剩下几个“有效独立投票者”。

与论文实际路径的差异：我猜的路径是先做行为实验、再做内部机制，论文确实也是这个顺序。但我在“来源线索”这一步可能只会测“身份标签”一个维度，而论文同时交叉了“身份”和“过往记录”两个维度，并且发现过往记录压倒身份。另外，我可能不会想到用“残差流互换”来绕过注意力掩码的限制，而是会卡在混合架构上。论文用残差流互换独立验证了混合架构中影响路径更深，这是我没想到的。

4. 核心 intuition

用一个日常类比：想象三个学生分别做完一道题，然后互相看答案。如果三个人最后都选了 B，你可能以为他们独立算出了 B。但实际过程可能是：学生甲先算出 B，学生乙和丙还没算完就看到了甲的答案，于是直接写了 B，然后再补一段“我觉得 B 对，因为……”的推理。这段推理看起来像是独立验证，其实是先有结论、后补理由。

论文的核心机制就是这个：同伴消息在接收者写任何推理之前，就已经把答案“固定”下来了。证据是 forced-choice readout 在 0% 推理时就能恢复 48.5%–65.4% 的最终答案变化，而独立反思条件下只有 12.6%–35.4%。这就像学生乙和丙在动笔之前，心里已经选了 B，后面的推理只是给这个选择“补妆”。

这个类比能对上机制的关键点：决策先于推理发生，推理不是决策的原因，而是决策的合理化。论文用“中性填充文本不破坏效应、无关推理文本破坏效应”来证明这不是简单的 token 数量效应，而是真的和“读了同伴的实质内容”有关。

5. 方法 pipeline 举例

假设有一个知识类问题：“蝙蝠是盲的吗？”选项是 true 或 false，参考答案是 false。

第一步，三个智能体（都是 Qwen3.5-9B 的副本）在 round 0 独立作答。假设智能体 A 答 true，智能体 B 和 C 都答 false。

第二步，进入 round 1。智能体 A 收到 B 和 C 的上一轮完整回答，包括它们的推理和最终答案行。A 自己上一轮的回答也在上下文里。

第三步，在 A 开始写自己的推理之前，系统截断 A 的输出，强制加上 {final answer: ( 前缀，读取下一个 token 在 true 和 false 上的 log-probability。假设此时 false 的 log-probability 更高，说明 A 在写任何推理之前就已经倾向于改成 false。

第四步，A 继续写完整回答，最终写出 {final answer: (false)}。这个最终答案和第三步强制读出的答案一致，所以这个回答被标记为“committed at read”。

第五步，作为对照，同样的 A 在 reflection 条件下看不到 B 和 C 的回答，只看到自己的上一轮回答和问题本身。在 0% 推理处强制读出答案，发现它仍然是 true。这说明 A 的答案变化确实来自同伴消息，而不是自己多思考一轮的结果。

第六步，为了拆解同伴消息的哪个部分起了作用，构造两个变体：answer-only 版本只保留 B 和 C 的 {final answer: (false)} 行；reasoning-only 版本保留 B 和 C 的推理但删掉答案行。分别测 A 的 adoption margin 变化。假设 answer-only 让 margin 向 false 移动 0.59 logits，reasoning-only 移动 1.31 logits，说明推理部分贡献了 1.31/(0.59+1.31)=69% 的影响。

第七步，在群体层面，round 1 结束后三个智能体可能都答 false。如果参考答案确实是 false，这是一次正确的共识。但论文关心的是：这个共识里有多少独立判断？用有效独立投票者公式 neff = 3/(1+2ρ) 计算，如果三个智能体的正确性高度相关，neff 可能接近 1，意味着三个智能体只相当于一个独立投票者。

6. 核心数学推导

论文的核心公式之一是 adoption margin，定义为：

m = log p(Y) − log p(X)

这里先解释符号：X 是接收者上一轮给出的答案，Y 是某个持不同意见的同伴给出的答案。p(Y) 是模型在决策 token 位置给选项 Y 的概率，p(X) 是给选项 X 的概率。log 是自然对数。m 衡量模型在读完同伴消息后，有多大程度倾向于采纳 Y 而不是坚持 X。如果 m 为正，说明模型更倾向 Y；如果为负，更倾向 X。

推导过程：这个公式本身不需要推导，它是对数概率差，直接来自决策 token 的 log-probability 输出。但它的作用需要解释：m 是一个连续的、可比较的量，单位是 logits。论文里所有干预实验（消息消融、来源标签交换、注意力屏蔽）都报告 m 的变化量，例如“answer-only 消息使 m 移动 0.59 logits”。这样不同干预的效果可以在同一尺度上比较。

第二个核心公式是 reasoning share：

s_reason = Δ_reason / (Δ_answer + Δ_reason)

这里 Δ_answer 是 answer-only 消息相对于 no-peer 消息造成的 m 变化，Δ_reason 是 reasoning-only 消息造成的 m 变化。s_reason 表示在“答案”和“推理”两个成分的总影响中，推理成分占多大比例。论文报告 s_reason = 69%，意思是同伴消息的影响有 69% 来自推理部分，31% 来自答案部分。

第三个核心公式是有效独立投票者数量：

neff = 3 / (1 + 2ρ)

这里 ρ 是三个智能体正确性的一元组内相关系数（one-way intra-class correlation），衡量它们是否倾向于同时正确或同时错误。推导思路：如果有 n 个投票者，错误相互独立，那么多数投票的错误率会随 n 增大而下降。但当投票者之间存在相关性 ρ 时，n 个相关投票者提供的误差修正能力相当于 n/(1+(n−1)ρ) 个独立投票者。把 n=3 代入，得到 3/(1+2ρ)。当 ρ=0（完全独立）时，neff=3；当 ρ=1（完全相关）时，neff=1。论文报告辩论 12 轮后 neff 降到 1.02–1.07，意思是三个智能体几乎只相当于一个独立投票者。

这个公式在算的是：群体共识里到底包含多少“独立证据”。它把“三个智能体一致同意”这个表面现象，换算成统计上等效的独立投票者数量。

7. 实验设计

数据集：MAD Bench，2400 个纯文本问题，分三个领域各 800 题——知识与推理、价值观与道德判断、安全与拒绝。其中 1700 题有参考答案，700 题无参考答案（用于测量立场变化而非正确性）。610 题是构造题，来自 156 个基础场景的变体。

模型：Qwen3.5-9B（8 层全注意力 + 24 层 Gated DeltaNet 线性注意力）、Llama-3.1-8B-Instruct（32 层全注意力）、Gemma-4-E4B-it（7 层全局注意力 + 35 层滑动窗口注意力）。

基线：最关键的基线是 matched independent-reflection control——同样的智能体在同样的轮数里独立反思，只是看不到同伴消息。另一个基线是 round-0 多数投票。所有辩论效果都报告为“辩论减去反思”的差值。

指标：个体层面有 committed-at-read 率、adoption margin 变化、reasoning share、来源标签效应、注意力屏蔽移除的影响份额。群体层面有多数准确率、错误一致性率（wrong unanimity）、有效独立投票者数 neff、共识来源（最终一致答案是否等于初始多数）。

消融：消息内容消融（full、answer-only、reasoning-only、no-peer）、来源标签交换（own vs. peer）、位置交换、身份与过往记录交叉、注意力屏蔽（单层、累计、完整、决策 token 保留控制）、残差流互换。

实验能否支撑结论：能支撑核心结论。matched control 是设计上的亮点，它干净地分离了“同伴通信”和“额外计算”。forced-choice readout 的 filler 和 cross-item 控制排除了 token 数量和推理格式的混淆。注意力屏蔽的 own-span 控制排除了“删除上下文”的通用效应。

缺什么：一是只有 8–10B 的开源模型，没有更大或闭源模型；二是只有一种辩论协议（三智能体、全连接、三轮）；三是构造题的参考答案来自 Claude Opus 5 生成，没有独立人工标注；四是英文单语。这些限制论文自己在 Limitations 里承认了。

8. take-aways

1. 在 Qwen3.5-9B 上，辩论引起的答案变化中有 65.4% 在接收者写任何推理之前就已经可恢复，而反思条件下只有 22.3%，差值 65.4−22.3=43.1 个百分点。这说明很多辩论中的“推理”是决策后的合理化，不是决策过程本身。

1. 同伴消息的影响中，推理部分占 69%（Qwen 全基准），答案行只占 31%。但在写出的推理里，决策往往在推理之前就已固定。读到的推理比写出的推理更可信。

1. 把同样的文本标注为“接收者自己的上一轮回答”而不是“另一个智能体的回答”，使 adoption margin 移动 +0.749 logits（Qwen）、+1.086 logits（Llama）、+1.302 logits（Gemma），而改变文本位置只移动 −0.019、+0.024、−0.032 logits。来源归属的效应是位置效应的 39–45 倍。

1. 在三个模型上，辩论相对初始多数投票的准确率提升只有约 +1.2、+0.5（不显著）、+1.2 个百分点，但错误一致性率相对反思增加了 +3.1、+7.4、+3.6 个百分点。共识增强的同时，集体犯错也在增强。

1. 12 轮辩论后，三个智能体的有效独立投票者数降到 1.02–1.07，而反思条件下为 1.70–2.10。三个辩论智能体在统计上几乎只相当于一个独立判断。

9. 最脆弱的假设

最脆弱的假设是：forced-choice readout 在 0% 推理处读出的答案，真的反映了“决策已经发生”，而不是 readout 本身制造了一个虚假的早期承诺。

具体来说，论文在智能体读完同伴消息后、写任何推理之前，强制加上 {final answer: ( 前缀并读取下一个 token 的概率。这个操作假设：模型在这个位置的输出代表了它“已经想好的答案”。但有可能模型在这个位置只是对前缀做出了一个格式化的、条件化的响应，而不是真正“决定”了最终答案。也就是说，readout 可能测量的是“模型在给定前缀下最可能写什么”，而不是“模型心里已经选了什么”。

论文给出的证据：一是中性填充文本不破坏效应（2.5 点偏移，区间 [−5.4, 0.4]），说明不是 token 数量问题；二是无关推理文本使辩论−反思差距从 43.0 塌缩到 4.6 个百分点，说明不是任意推理格式的问题；三是保持答案不变的响应在 0% 处就已经有 97–99% 的承诺率，说明 readout 不是普遍偏向早期承诺。这些证据相当有力，但都没有完全排除“readout 本身诱导了早期承诺”的可能性。如果这个假设被推翻，论文关于“决策先于推理”的核心主张就会大幅削弱，因为那可能只是 readout 的测量伪影。

10. 一周最小复现

目标：复现最核心的结论——辩论引起的答案变化在 0% 推理处就可恢复的比例，辩论显著高于反思。

步骤：

1. 选模型 Qwen3.5-9B（约 9B 参数，bf16 约 18GB 显存，24GB 卡可跑）。如果显存紧张，可换 Llama-3.1-8B。

1. 数据：从 MAD Bench 的知识与推理领域抽 200 题，全部用有选项的题（排除数值题，因为 readout 需要选项集）。如果拿不到 MAD Bench，用 MMLU 的 200 道多选题替代。

1. 协议：三智能体，都是同一模型副本。round 0 独立作答。round 1 每个智能体收到另外两个智能体的 round 0 完整回答。反思条件：同样的智能体只收到自己的 round 0 回答，看不到别人。

1. 筛选：找出所有 round 1 最终答案与 round 0 答案不同的响应，以及 6% 的未变化响应作为参照。

1. 干预：对每个筛选出的响应，在模型生成任何推理 token 之前，截断输出，追加 {final answer: (，读取选项字母的 log-probability，取 argmax 作为 forced answer。

1. 指标：计算 forced answer 等于最终答案的比例，分别在辩论和反思条件下。预期辩论条件下约 50–65%，反思条件下约 20–35%，差值约 30–43 个百分点。

1. 规模：200 题 × 3 智能体 × 2 条件 = 1200 次前向，加上筛选和 readout，单卡约 1–2 天可完成。

预期指标：辩论 committed-at-read 率约 52–65%，反思约 22–35%，差值约 17–43 个百分点，具体取决于模型和题目分布。

11. 反例设计

要推翻本文的核心主张“辩论中的共识主要来自同伴影响而非独立验证”，可以设计这样一个实验：

判据：如果三个智能体在辩论后达成一致，但它们的内部决策路径（而非最终答案）仍然保持独立，那么“共识坍塌为单一判断”的主张就不成立。

具体设计：选一个全注意力模型（如 Llama-3.1-8B），在辩论的每一轮，对每个智能体的决策 token 做激活分析。用论文第 4.4 节的注意力屏蔽方法，但反过来：不是屏蔽同伴消息，而是屏蔽智能体自己的上一轮回答。如果论文的主张成立，那么屏蔽同伴消息应该大幅改变决策，而屏蔽自己的回答影响很小。

反例判据：如果屏蔽同伴消息后，三个智能体的最终答案仍然高度一致，且一致率不低于未屏蔽时，说明共识不是靠同伴消息维持的，而是三个智能体独立得出了相同结论。这直接推翻“共识是传播而非佐证”的核心主张。

更强的版本：在 12 轮辩论后，用残差流互换把每个智能体的决策 token 状态替换为它在反思条件下（从未见过同伴）的对应状态。如果替换后三个智能体的答案仍然一致，说明共识在内部表征层面也是独立的，论文关于“有效独立投票者坍塌到 1”的结论就是测量伪影。

12. 落地判断

能否用于“抢占式 GPU 自托管 27B 模型做多智能体脚手架”：能，但要非常小心。

怎么用：如果你用 27B 模型跑多智能体辩论来做代码生成、数学推理或安全判断，这篇论文的直接启示是：不要因为三个智能体一致同意就认为答案可靠。具体做法是加一个 matched reflection 基线——让同样的智能体独立反思同样轮数，比较辩论和反思的准确率差。如果辩论没有显著超过反思，说明同伴通信没有带来额外价值，不如省下通信开销。

成本量级：论文用的是 8–10B 模型，三轮辩论。27B 模型的前向成本大约是 9B 的 3 倍。如果按论文的设置，三智能体、三轮、每轮最多 2048 token，单题成本大约是 3 智能体 × 3 轮 × 3 倍 = 27 倍于单次 9B 推理。在 24GB 卡上，27B 模型 bf16 需要约 54GB，单卡放不下，需要量化到 4-bit（约 14GB）或张量并行。量化会引入额外的不确定性，可能改变论文观察到的行为模式。

最大的坑：论文发现辩论会增加“错误一致性”——三个智能体一起错的比例上升 3.1–7.4 个百分点。在自托管场景里，这意味着如果你用多智能体共识来做安全过滤或代码审查，辩论可能让三个智能体一起放过同一个错误，给你一种“三重验证”的虚假安全感。更糟的是，论文发现 12 轮辩论后有效独立投票者数降到 1.02–1.07，也就是说你花了三倍的计算，得到的独立判断几乎只有一个。如果你的脚手架依赖多智能体投票来降低错误率，这个设计在统计上可能是无效的。

落地建议：把辩论当作“生成更多候选答案”的工具，而不是“验证答案”的工具。用反思基线做对照，如果辩论不显著优于反思，就砍掉通信环节。如果必须用辩论，至少记录 neff 或错误一致性率，不要只看最终准确率。