AgentSafeEvo: Adversarial Co-Evolution for LLM Agent Safety

1. 04:00
   Hugging Face Daily Papers

   AgentSafeEvo：基于对抗协同进化的LLM智能体安全框架

   AgentSafeEvo是一个基于对抗协同进化的强化学习框架，旨在提升LLM智能体的安全性。该框架通过攻击者-防御者游戏，涵盖多种任务和攻击类型，使攻击者学习构建对抗性任务以暴露防御者工具使用的弱点，而防御者则学习在攻击下安全完成任务。实验表明，该方法在提高对抗鲁棒性的同时，保持了智能体的通用能力。

当前热度 3·可比范围峰值 4（10月15日 16:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。