AgentSafeEvo：基于对抗协同进化的LLM智能体安全框架

AgentSafeEvo是一个基于对抗协同进化的强化学习框架，旨在提升LLM智能体的安全性。该框架通过攻击者-防御者游戏，涵盖多种任务和攻击类型，使攻击者学习构建对抗性任务以暴露防御者工具使用的弱点，而防御者则学习在攻击下安全完成任务。实验表明，该方法在提高对抗鲁棒性的同时，保持了智能体的通用能力。