#安全/对齐

#安全/对齐

今日 12 条

12月19日星期五周五

OpenAI发布关于生产评估以规避评估意识和预测偏差的研究论文
推荐理由：OpenAI展示了如何利用去标识的生产流量进行评估，以预测和跟踪模型的不当行为，为AI安全研究提供了新的思路。
2025年12月19日OpenAI Alignment论文论文/研究安全/对齐精选评分 70

12月18日星期四周四

GPT-5.2-Codex 系统卡片：禁止内容评估与代理沙盒
2025年12月18日OpenAI Deployment Safety模型模型发布评测/基准评分 40

12月5日星期五周五

AI行业风险：过度依赖LLM输出可能导致安全风险
2025年12月5日Embrace The Red观点大佬观点安全/对齐评分 67

12月4日星期四周四

Supabase Auth 发布七款新电子邮件模板
2025年12月4日Supabase Blog (pgvector & AI)产品产品更新安全/对齐评分 20

12月2日星期二周二

OpenAI 发布 AI 安全和一致性研究博客
推荐理由：OpenAI 在此博客中分享了他们对 AI 安全和一致性的研究，并强调了开放对话在科学工作中的作用。
2025年12月2日OpenAI Alignment观点大佬观点安全/对齐精选评分 60

11月25日星期二周二

Google Antigravity IDE 存在安全漏洞
2025年11月25日Embrace The Red产品安全/对齐产品更新评分 65

11月19日星期三周三

Reducto如何通过Modal将企业级文档处理延迟降低3倍
2025年11月19日Modal Blog产品产品更新开源/仓库评分 45

11月18日星期二周二

GPT-5.1-Codex-Max 系统卡牌
2025年11月18日OpenAI Deployment Safety模型模型发布评测/基准评分 40
AI推理效率杀手：主机开销解析与优化策略
2025年11月18日Modal Blog教程教程/实践现象/趋势评分 45

10月28日星期二周二

Claude 网络访问功能存在数据泄露风险
2025年10月28日Embrace The Red产品安全/对齐 Agent评分 70

10月27日星期一周一

GPT-5 系统卡片补充：敏感对话评估
2025年10月27日OpenAI Deployment Safety模型评测/基准安全/对齐评分 35

9月30日星期二周二

Sora 2 安全栈：OpenAI 的新产品策略与透明度措施
2025年9月30日OpenAI Deployment Safety模型安全/对齐评测/基准评分 32

9月25日星期四周四

智能体间权限提升：当智能体互相释放
2025年9月25日Embrace The Red论文安全/对齐 Agent评分 70

8月30日星期六周六

AI智能体AgentHopper：一个AI病毒的案例分析
2025年8月30日Embrace The Red论文安全/对齐 Agent评分 70

8月29日星期五周五

Windsurf MCP集成：缺少安全控制使用户面临风险
2025年8月29日Embrace The Red观点安全/对齐 Agent评分 67

8月27日星期三周三

Cline 智能体存在数据泄露风险，开发者建议加强安全工程
2025年8月27日Embrace The Red产品安全/对齐 Agent评分 52

8月26日星期二周二

AWS Kiro 智能体存在安全漏洞：任意代码执行
2025年8月26日Embrace The Red安全/对齐 Agent评分 72

8月25日星期一周一

Manus AI 智能体存在安全漏洞，VS Code 服务器暴露于互联网
2025年8月25日Embrace The Red产品安全/对齐 Agent评分 62
深度研究智能体如何泄露您的数据
2025年8月25日Embrace The Red观点安全/对齐 Agent评分 70

8月24日星期日周日

Windsurf智能体发现隐藏指令漏洞
2025年8月24日Embrace The Red模型安全/对齐 Agent评分 52

8月23日星期六周六

Windsurf Cascade存在SpAIware攻击，允许内存持久数据泄露
2025年8月23日Embrace The Red行业安全/对齐开源/仓库评分 70

8月21日星期四周四

Windsurf 漏洞：提示注入导致开发者机密泄露
2025年8月21日Embrace The Red行业安全/对齐开源生态评分 52

8月20日星期三周三

Amazon Q 开发者 VS Code 扩展存在不可见提示注入漏洞
2025年8月20日Embrace The Red产品安全/对齐 Agent评分 70
Amazon Q Developer 漏洞：远程代码执行与提示注入攻击
2025年8月20日Embrace The Red产品产品更新 Agent评分 72

8月19日星期二周二

Amazon Q Developer 漏洞：通过 DNS 和提示注入泄露敏感信息
2025年8月19日Embrace The Red产品安全/对齐行业动态评分 70

8月17日星期日周日

Amp Code 漏洞修复：图像渲染数据泄露风险
2025年8月17日Embrace The Red行业安全/对齐评测/基准评分 45
Sourcegraph 的 Amp 代码：解决不可见提示注入问题
2025年8月17日Embrace The Red产品安全/对齐评测/基准评分 42

8月15日星期五周五

Google Jules 智能体存在不可见提示注入漏洞
2025年8月15日Embrace The Red模型安全/对齐现象/趋势评分 70

8月14日星期四周四

Jules 智能体安全漏洞：从提示注入到远程控制
2025年8月14日Embrace The Red模型安全/对齐 Agent评分 70
Google Jules 智能体存在数据泄露风险
2025年8月14日Embrace The Red模型安全/对齐 Agent评分 60

8月13日星期三周三

GitHub Copilot 存在远程代码执行漏洞，可导致系统完全妥协
推荐理由：该文揭示了 GitHub Copilot 的安全漏洞，对开发者机器构成威胁，读者可了解 AI 智能体潜在风险。
2025年8月13日Embrace The Red产品安全/对齐开源生态精选评分 85

8月11日星期一周一

Claude Code：数据泄露漏洞（CVE-2025-55284）修复
2025年8月11日Embrace The Red论文安全/对齐评测/基准评分 45

8月10日星期日周日

OpenHands 智能体存在安全漏洞：远程代码执行风险
2025年8月10日Embrace The Red模型安全/对齐 Agent评分 65

8月9日星期六周六

OpenHands 智能体安全漏洞：如何通过提示注入泄露访问令牌
2025年8月9日Embrace The Red模型安全/对齐 Agent评分 70

8月8日星期五周五

Devin AI 暴露本地端口漏洞：AI 杀死链攻击分析
2025年8月8日Embrace The Red产品安全/对齐 Agent评分 70

8月7日星期四周四

Devin AI 存在安全漏洞，可泄露敏感信息
2025年8月7日Embrace The Red产品安全/对齐 Agent评分 70

8月6日星期三周三

Devin AI智能体安全漏洞分析
2025年8月6日Embrace The Red产品安全/对齐 Agent评分 65

8月5日星期二周二

Amp Code：通过提示注入执行任意命令的漏洞已修复
2025年8月5日Embrace The Red模型安全/对齐评测/基准评分 45
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 模型
推荐理由：OpenAI 发布了 gpt-oss-120b 和 gpt-oss-20b 模型，展示了其在推理、编码和工具使用方面的能力，并进行了安全测试和评估。
2025年8月5日OpenAI Deployment Safety模型模型发布推理精选评分 85

8月4日星期一周一

Cursor 编辑器修复数据泄露漏洞
2025年8月4日Embrace The Red产品产品更新安全/对齐评分 65