Agent Control Flash News·· 2 小时前精选AI 评分67
NUS/NTU 交互审批机制漏洞：58%的实例中存在权限提升风险
交互审批别迷信「人在环」：NUS/NTU Privilege Escalation，诱导 58%，批准后静默 81%
Edge-TTS 广播级有声
全员无门槛畅听⤓ 下载音频
有声朗读已就绪
00:00
00:16
AI 导读
该研究指出，执行约束机制中的允许规则审批机制存在漏洞，可能导致权限提升风险。在实验中，58%的实例中存在权限提升风险，其中81%的实例在规则批准后实现了静默目标完成。
推荐理由
该研究揭示了执行约束机制中存在的新风险，对AI安全领域具有重要意义。
正文 · AI 翻译
摘要：编码代理使用执行工具来限制提示注入的后果，通过强制执行权限边界。这些系统可以确定性地拦截任何沙箱外的操作，并提示用户进行批准。为了减少批准疲劳，用户可以批准代理提出的允许规则，之后任何符合该规则的后续操作都将被允许，无需提示。在这项工作中，我们表明这种机制引入了新的风险：不受信任的上下文可以影响待批准的权限，其后果超出了直接任务。我们调查了针对此权限更新过程的权限提升攻击。具体来说，在存储库中植入的对抗性上下文可以可靠地将执行常规任务的代理引导到请求一个看似合理但危险范围广泛的允许规则。如果用户批准了请求，则保存的规则可以有效地使工具失明，使对手能够执行原本需要批准的恶意操作，而不会触发人工监督。在包括Claude Code和Codex CLI在内的生产平台上，我们证明了代理在58%的实验实例中成功地诱发了目标允许规则。一旦获得，这些规则显示出巨大的语义爆炸半径，覆盖了56.9%的特定类别能力测试案例。为了进一步量化下游风险，我们表明，在规则批准的条件下，我们的攻击在58个符合条件的实例中有47个（81.0%）实现了验证的静默目标完成，破坏了人工监督的安全承诺。
| 评论： | 预印本 |
| 主题： | 人工智能（cs.AI） |
| 引用格式： | arXiv:2610.22987 [cs.AI] |
| (或 arXiv:2610.22987v1 [cs.AI] 为此版本) | |
| https://doi.org/10.48550/arXiv.2610.22987 arXiv-issued DOI via DataCite (待注册) |
投稿历史
From: Xianglin Yang [查看电子邮件]
[v1]
周五，16 Oct 2026 06:13:06 UTC (1,288 KB)
来源：Agent Control Flash News · arxiv.org
💡量子基态深度拆解 · 关联专栏与产品
原创出品站长/Quantara 团队·约 3 分钟深度解析
Cursor Agent 架构全景拆解：从影子工作区到多文件推演引擎
全面剖析 Cursor 在 Agent 模式下的底层技术实现，解析影子分支隔离、LSP 上下文剪枝以及预测性补全的核心架构细节与工程实践经验。
深入理解底层架构与行业变量阅读完整拆解 →
精选收录Vercel Changelog·约 1 分钟深度解析
Vercel v0 推出全新多 Agent 协作画布与实时全栈部署预览
动态速评：v0 正在从单一组件生成器演进为全栈应用搭建协作台，尤其是与 Neon/Postgres 的直连极大降低了全栈原型验证成本。
深入理解底层架构与行业变量阅读完整拆解 →