多智能体护栏别只护单 agent：Oracle Dan Roth 等 MAS-Guard，ASR 相对无护栏降 71.5–86.3%

查看PDF HTML（实验性）

摘要：代理人工智能扩展了大型语言模型（LLMs）的功能，从生成响应扩展到规划和执行复杂的工作流程，大大增加了它们的实用性，但同时也使应用程序面临不安全的行为、信息泄露和对抗性操纵的风险。多智能体系统通过专业化和协作进一步扩展这些功能，但分布式的权威、异构的角色以及不透明或可能受损的参与者使得保护变得更加具有挑战性。现有的防御措施针对重要的个别威胁，但在本地执行、系统级交互和执行机制方面提供了碎片化的覆盖。我们引入了MAS-Guard，这是一个统一的框架，它为包含可编程和不可编程智能体的单智能体和多智能体AI应用程序提供了保护，填补了这一差距。在可编程智能体中，所提出的本地智能体护栏（A-Guard）层应用特定任务的专家来评估代理事件。在系统层面，开发者拥有的智能体宪章和控制平面结合了对路由、智能体能力和消息格式的确定性结构检查，以及对角色和消息内容的语义评估。这些互补层通过共享的干预措施来实现执行：允许、反思、确认和阻止。在六个基准测试中进行了评估，涵盖了不同的单智能体和多智能体场景，使用了来自不同提供商的三个智能体LLMs，MAS-Guard相对于未受保护的智能体将总体攻击成功率降低了71.5-86.3%，同时在良性任务上满足了效用参考标准。

投稿历史

From: Mohammad Kachuee 先生 [查看电子邮件]
[v1] 周二，20 Oct 2026 15:44:37 UTC (3,360 KB)