Google Research 提出机器学习数据遗忘审计新框架
推荐理由：该研究提出了一个新的框架，用于审计机器学习中的数据遗忘，为模型安全和隐私保护提供了新的方法。
安全对齐
全部主题AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
最新精选
第 41–56 条 · 共 56 条6月11日星期四周四
6月10日星期三周三
DeepMind宣布多智能体AI安全研究资金支持计划
推荐理由：原文宣布了一项针对多智能体AI安全研究的资金支持计划，读者可以关注其对AI生态系统安全性的潜在影响。
6月3日星期三周三
技能市场安全现状堪忧：恶意技能泛滥，现有扫描工具无效
推荐理由：文章揭示了技能市场中恶意技能的泛滥和现有技能扫描工具的不足，强调了技能安全的重要性。
OpenAI 发布 GPT-Rosalind-5.5 模型，专注于生命科学领域
推荐理由：OpenAI 发布了 GPT-Rosalind-5.5，这是一个针对生命科学领域进行增量训练的模型，具有高级生物信息学能力，并采用了严格的安全和访问控制措施。
5月28日星期四周四
基于零信任聚合的隐私分析研究
推荐理由：原文介绍了基于零信任聚合的隐私分析技术，读者可以了解其在保护用户隐私方面的应用和挑战。
5月16日星期六周六
DeepMind 的 WeatherNext 帮助预测飓风Melissa的登陆
推荐理由：WeatherNext 在预测飓风Melissa的路径和强度方面表现出色，展示了AI在气象预测领域的潜力。
4月6日星期一周一
OpenAI 推出安全与对齐研究奖学金计划
推荐理由：OpenAI 正式推出安全与对齐研究奖学金计划，旨在支持独立研究并培养下一代人才，对相关领域的研究者和从业者具有重要意义。
3月31日星期二周二
谷歌研究：负责任地披露量子漏洞以保护加密货币
推荐理由：原文提出了量子计算机对加密货币安全的潜在威胁，并提供了应对策略，读者可以了解量子计算对加密货币行业的影响和应对措施。
2月17日星期二周二
工具调用中的幻觉问题及解决方案
推荐理由：原文展示了工具调用中可能出现的幻觉问题，并提供了相应的解决方案和预防措施，读者可以据此了解如何避免类似的安全风险。
2月7日星期六周六
OpenAI 发现现实世界 AI 偏差
推荐理由：原文展示了如何通过分析用户对话来检测和诊断AI模型中的未知偏差，对理解AI安全具有重要意义。
2月5日星期四周四
OpenAI 发布 GPT-5.3-Codex 模型
推荐理由：OpenAI 发布了 GPT-5.3-Codex，介绍了其在不同领域的表现和安全性评估，读者可以了解其能力变化和风险控制措施。
12月19日星期五周五
OpenAI发布关于生产评估以规避评估意识和预测偏差的研究论文
推荐理由：OpenAI展示了如何利用去标识的生产流量进行评估，以预测和跟踪模型的不当行为，为AI安全研究提供了新的思路。
12月2日星期二周二
OpenAI 发布 AI 安全和一致性研究博客
推荐理由：OpenAI 在此博客中分享了他们对 AI 安全和一致性的研究，并强调了开放对话在科学工作中的作用。
8月13日星期三周三
GitHub Copilot 存在远程代码执行漏洞，可导致系统完全妥协
推荐理由：该文揭示了 GitHub Copilot 的安全漏洞，对开发者机器构成威胁，读者可了解 AI 智能体潜在风险。
8月5日星期二周二
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 模型
推荐理由：OpenAI 发布了 gpt-oss-120b 和 gpt-oss-20b 模型，展示了其在推理、编码和工具使用方面的能力，并进行了安全测试和评估。
2月25日星期二周二
OpenAI发布Deep Research系统卡：评估AI在复杂任务中的表现和安全性
推荐理由：Deep Research System Card介绍了Deep Research模型在复杂研究任务和安全性评估方面的进展，对AI安全领域有重要意义。