多智能体合谋攻击研究：MATS/Redwood MiniLab，分布式攻击仅7%被标出

查看PDF HTML（实验性）

摘要：人工智能代理的能力和持续性正在增长，并且正在以更大的数量部署。随着越来越多的代理开始协作，当它们秘密地勾结于有害目标时，人工智能控制措施必须保持有效。我们介绍了MiniLab，这是一系列合成的生活服务和代码库（5个相互连接的服务，249个良性任务，8个攻击目标），它改编自内部人工智能部署基础设施。我们展示了分布式攻击，其中不同的代理执行单独的攻击片段，以及它们如何通过单独读取它们的轨迹来规避前沿监控。我们展示了通过16个人工优化的攻击（权重泄露、未经监控的恶意部署、权限提升等）如何在不同环境和有害目标之间传播。当单独读取每个代理时，前沿监控器GPT-5.6 Sol仅标记了7%的成功分布式攻击，而单个代理执行相同辅助任务时为87%。单个攻击也可以组合成更长的攻击序列，以实现更大的失控结果，而不会标记任何单个代理。最后，我们测试了模型是否可以计划这些秘密攻击：即使在执行和监控反馈的情况下，最好的模型计划攻击在最多的25%的执行中秘密地对抗单个轨迹的GPT-5.6 Sol监控器，而人类制定的计划为80%，尽管这可能随着模型能力的提高而扩展。通过将最坏情况的协调攻击转化为可重复的红色团队案例，我们的工作为防止本地良性代理行为累积成系统级失控提供了基础。

投稿历史

从：John Kitaoka [查看电子邮件]
[v1] 周五，16 Oct 2026 16:42:33 UTC (2,152 KB)