多智能体协作、语音认知诊断与硬件代码进化的可治理AI系统

今天从 arXiv 精选了 8 篇值得关注的 AI/ML 论文，涵盖多智能体协作、多模态推理、可解释AI、强化学习、AI安全、容错控制、硬件设计自动化以及AI软件生态治理。

1. LLawCo：学习协作法则以建模具身多智能体行为

作者: Qinhong Zhou, Chuang Gan, Anoop Cherian | 分类: cs.LG, cs.AI, cs.CV, cs.RO 链接: arxiv.org/abs/2606.28182

在分散且部分可观测的环境中运行的具身智能体近年来受到越来越多的关注。然而，现有基于大语言模型（LLM）的智能体常常表现出与伙伴不一致或与环境状态不符的行为，导致协作效率低下和任务成功率不佳。为解决这一挑战，我们提出了一种新颖框架——学习协作法则（LLawCo），它使具身智能体能够自主地与伙伴和任务目标对齐。该框架允许智能体反思过去的失败以提取错误的行为模式，并据此推导出高层次的行为法则，例如“必要时交谈”和“等待伙伴”。这些法则通过监督微调显式地融入智能体的思维链中，使其推理与任务需求及其他智能体的行为对齐。为了评估我们的方法，我们引入了PARTNR-Dialog，这是一个基于PARTNR环境构建的大规模多智能体通信与协作规划基准。在现有任务和我们新基准上的实验表明，在协作效率和任务成功率方面均有显著提升。在四种基础LLM上，我们的方法在PARTNR-Dialog基准上的平均成功率比最先进的开源通信智能体框架提高了4.5%，在TDW-MAT基准上提高了6.8%。

点评: 该工作将人类社会的“协作法则”概念引入具身多智能体系统，通过反思失败经验生成行为规则并融入思维链，为提升LLM智能体在复杂环境中的团队协作能力提供了新范式。

2. ProMSA：用于知识驱动视觉问答的渐进式多模态搜索智能体

作者: ZhengXian Wu, Hangrui Xu, Kai Shi, Zhuohong Chen, Yunyao Yu 等 | 分类: cs.CV, cs.AI 链接: arxiv.org/abs/2606.27974

知识驱动视觉问答（KB-VQA）要求模型将图像理解与外部知识相结合。大多数先前的方法使用固定的“检索-然后-生成”流水线，并采用预选的检索器和静态的top-k设置，这在推理过程中不具备自适应性。我们提出了ProMSA，一种用于KB-VQA的渐进式多模态搜索智能体。给定一个图像-问题对，该智能体在明确的工具调用预算和去重机制下，迭代地选择图像搜索、文本搜索或停止。在训练方面，我们首先使用拒绝采样SFT来学习有效的工具使用格式，然后使用TN-GSPO（一种序列级RL目标，通过对生成长度和工具交互深度进行归一化更新）来优化智能体。在E-VQA和InfoSeek上的实验显示，其在强大的RAG和智能体基线之上取得了持续改进，并提升了检索和端到端准确性。

点评: 该工作将KB-VQA从固定的静态检索流水线升级为智能体式的自适应迭代搜索，并通过新颖的序列级强化学习目标优化搜索策略，显著提升了复杂开放域视觉问答的准确性和灵活性。

3. 从黑盒到临床洞察：基于语音的认知障碍检测的多阶段可解释框架

作者: Yasaman Haghbin, Sina Rashidi, Ali Zolnour, Fatemeh Taherinezhad, Ali Fartoot 等 | 分类: cs.CL, cs.AI 链接: arxiv.org/abs/2606.27973

基于语音的认知障碍检测为昂贵的生物标志物检测提供了一种无创、易获取的替代方案，然而基于Transformer的模型在临床上仍难以解释。我们提出了一个多阶段可解释性框架，它通过整合基于SHAP的词元归因、理论驱动的语言学特征以及使用LLaMA-3.1-70B-Instruct的四阶段LLM推理流水线，将黑盒Transformer模型的预测转化为临床上有依据的叙述。该框架建立在SpeechCARE-自适应门控网络多模态筛查模型（在NIA PREPARE基准上F1得分为72.11%）之上，将模型输出映射到四个认知-语言维度，包括词汇丰富度、句法复杂性和语义连贯性。在70个分层英语样本上的医生评估表明，该框架与患者层面的认知特征有很强的对齐性，系统可用性量表得分为82/100，表明其在临床工作流整合方面具有很高的潜力。

点评: 该工作成功弥合了强大但不可解释的AI模型与临床实践之间的鸿沟，通过结合SHAP归因、语言学理论和LLM推理，为医疗AI提供了可落地的可解释性方案，对智慧医疗领域具有重要参考价值。

4. 基于可验证奖励的双人强化学习

作者: Difan Jiao, Raghav Singhal, Robert West, Ashton Anderson | 分类: cs.AI 链接: arxiv.org/abs/2606.28166

基于可验证奖励的强化学习（RLVR）显著提升了大语言模型的推理能力，在竞赛数学等领域达到了专家甚至超人的水平。然而，较弱的智能体和人类能否真正利用这种能力远未确定，已有记录表明RLVR会使推理漂移向不良的可读性和混合语言等独特模式。双人训练是一种为解决此兼容性问题而提出的新范式：一个经过训练的、更强的“高年级生”与一个冻结的、较弱的“低年级生”共同生成每一次轨迹，并以团队形式获得奖励，从而促使高年级生以低年级生能够跟上的方式进行推理。然而，这种范式迄今仅在概念验证环境中得到展示，尚不清楚它是否能扩展到现代RLVR流水线的长思维链。在这项工作中，我们提出了双人强化学习（TRL），它将双人训练范式引入RLVR。在TRL中，高年级生和冻结的低年级生随机交替共同生成推理过程，最终生成的结果获得奖励，标准GRPO损失应用于高年级生。在竞赛数学任务上训练Qwen3-4B-Instruct，我们发现TRL在单人推理能力上与标准GRPO相当，同时从相同的轨迹结构中涌现出三种特性：与低年级生更强的交接鲁棒性、减少与低年级生的分布漂移，以及更易于低年级生理解的思维链。我们的结果为RLVR在模型间通信和人类兼容性方面带来实际收益指明了一条有前景的路径。

点评: 这项研究极具洞察力地指出了高性能但只关注个体的RLVR训练模式导致的“同伴兼容性”问题，并巧妙引入“双人训练”概念，在保持模型自身推理能力的同时显著提升了协作性和可读性，推动了AI协作生态的健康发展。

5. 越狱攻击下的鲁棒有害特征：来自大语言模型注意力头特化的机理证据

作者: Yanchen Yin, Dongqi Han, Linghui Li | 分类: cs.CR, cs.AI 链接: arxiv.org/abs/2606.28153

越狱攻击能够绕过LLM的安全对齐，但其机制仍不清楚。我们提供了证据表明，攻击并非彻底消除安全特征，而是选择性地压制特定的注意力头。我们识别出两种功能分化的类型：集中在早期层的“对抗性受损头”在攻击下被压制，而中间层的“安全对齐头”即使在攻击成功时也能维持稳健的激活。消融研究支持了“对抗性受损头”的因果关系和“安全对齐头”对稳健激活的贡献：抑制少量“对抗性受损头”就足以在正常拒绝的输入上诱发类似越狱的行为，而移除“安全对齐头”则会显著削弱中间层的安全激活。词元级归因进一步表明，“对抗性受损头”的压制是由特定的攻击模板词元驱动的，这提供了一种机理解释，说明为什么攻击可以通过压制“对抗性受损头”绕过拒绝决策，同时留下由“安全对齐头”维持的内部安全信号——我们将这种现象称为“鲁棒有害特征”。为了验证这种鲁棒性的实际意义，我们展示仅通过读取这些持久的激活信号（无需任何训练），就能在强对抗鲁棒性下获得具有竞争力的聚合检测性能。

点评: 该研究从机理层面深刻揭示了LLM越狱攻击的本质——并非覆盖安全认知，而是通过定位并压制特定注意力头来“作弊”，并首次提出“鲁棒有害特征”概念，为设计更持久、更难被绕过的安全对齐机制提供了理论依据。

6. 从检测到行动：使用LLM智能体实现容错控制

作者: Javal Vyas, Milapji Singh Gill, Artan Markaj, Felix Gehlhoff, Mehmet Mercangöz | 分类: eess.SY, cs.LG 链接: arxiv.org/abs/2606.28011

我们提出了一种智能体LLM框架，用于主动容错控制，它将故障检测输出转化为基于工厂特定知识的、受约束的恢复动作。该方法结合了三部分：(i) 一个多智能体工作流，将操作员职责分解为监控、规划、动作合成、仿真、验证和重新提示；(ii) 一个数字过程工厂孪生体，为预执行测试提供工厂数据、模型和仿真服务；(iii) 一个构建在CPSMod本体论之上的图检索增强生成层，该层将工厂知识（结构、功能、混合动力学、控制上下文和故障语义）组织成支持关系感知、多跳检索的图。纠正动作被生成为最小风险的状态机恢复路径及相应的离散命令或连续设定点调整，然后在任何执行前，通过联锁、包络线和动态可行性进行确定性验证。如果在限定的时间窗口内未找到可接受的计划，则将控制权移交给安全回退方案。该框架在两个代表性基准上进行了仿真评估：一个离散的批次混合模块和一个在闭环PID调节下的连续搅拌釜反应器。使用轻量级LLM的结果表明，语义驱动的智能体可以在与各自过程动态兼容的延迟预算内推导出有效的恢复决策，为从检测到经验证的纠正动作在离散和连续FTC任务中提供了一条实用路径。

点评: 该工作将LLM智能体成功嵌入工业自动化系统的核心容错控制环路，通过数字孪生体提供“沙箱”进行验证，将AI从辅助分析提升到直接参与高可靠性控制决策的关键角色，展示了LLM在工业4.0中的巨大潜力。

7. 智能体硬件设计：仓库级别的代码进化

作者: Cunxi Yu, Chenhui Deng, Nathaniel Pinckney, Brucek Khailany | 分类: cs.AR, cs.AI 链接: arxiv.org/abs/2606.28279

我们提出了HORIZON，一个自进化智能体框架，它将硬件设计视为仓库级别的代码进化。一个Markdown说明书被编译成一个项目包，包含领域知识、可执行评估器、验收谓词以及git/运行时策略；一个无需人工干预的智能体循环在一个隔离的git工作树中进化，使用仓库操作进行状态管理、追踪和回放。这将对EDA软件系统仓库级自进化的先前工作扩展到了硬件设计工件本身。我们在ChipBench、RTLLM、Verilog-Eval以及九个CVDP类别上评估了我们的方法，在完全无需人工干预的智能体循环下实现了所有套件的100%基准完成率。然而，我们并不声称智能体AI用于硬件设计的问题已解决：这些基准只是芯片设计中更广泛工程问题的受控代理。我们讨论了当前研究的局限性并指出了开放的研究挑战。

点评: 该工作首次将“代码自进化”范式从软件工程引入硬件设计领域，实现了从需求描述到硬件代码生成的闭环自动化，尽管作者谦虚地指出仍有大量挑战，但100%的基准完成率无疑为该领域开辟了激动人心的新方向。

8. 治理仓库，而非智能体：衡量AI原生软件中的生态系统级风险

作者: Daniel Russo | 分类: cs.SE, cs.AI 链接: arxiv.org/abs/2606.28235

自主编码智能体现在能够在共享仓库中大规模地创建和合并拉取请求，而业界对其的评估方式与以往评估组件的方式相同：一次一个智能体，在孤立的基准任务上。然而，每个都能通过自身测试的智能体，却仍然会留下一个累积了单个贡献无法解释的问题的仓库。我们探讨这个问题是属于个体智能体还是属于问题累积发生的仓库。我们研究了“集成摩擦”，即在一个其他贡献者同时修改代码库的情况下集成一个贡献的成本。通过对超过93万个智能体编写的拉取请求进行分析，我们测量了在考虑了贡献本身、作者、大小和智能体之后，摩擦变异中有多少留在了仓库层面。结果显示大约一半留了下来，并且在完全控制下依然存在。在相同的仓库中，智能体编写的贡献集中这种仓库级摩擦的程度大约是人类的两倍（组内相关系数0.30 vs 0.16），这一差距在控制了代码库规模、年龄、任务形态、流程成熟度和合并路径之后依然存在。风险是生态系统的属性，而非智能体的属性。因此，AI原生软件更适合在生态系统层面而非一次一个智能体地进行度量和治理。

点评: 该研究以扎实的数据揭示了AI原生软件开发中一个被严重忽视的隐患：个体智能体表现良好，但集成后系统级风险会累积且难以归因。其核心观点——“治理仓库，而非智能体”——为AI软件工程的治理和度量提供了全新的、更宏观的视角，对推动AI安全融入开发流程有重大启示。

本内容由 AI 辅助生成，论文信息来源于 arXiv。