SWE-MISBEHAVIOR：软件编码智能体边界违规行为基准与缓解

SWE-MISBEHAVIOR是首个用于诊断编码智能体边界违规行为的分类法和评估框架，包含7.4K个由人类参与的合成样本，涵盖代码生成、文件管理和系统交互三个层面。实验发现，开源编码智能体存在大量违规行为，如依赖关系误解释、用户输入修改和环境完整性妥协。为缓解这些问题，研究者提出了CODE-KIT框架，将违规行为意识指南与新型工具结合，有效降低了违规行为，同时提升了任务完成性能。