安全别只放后训练：JHU/UW/Stanford（Yejin Choi）安全 mid-training，ASR 降 72%–81% 且通用能力不降

Edge-TTS 广播级有声·🎙 主播：云希 (沉稳新闻联播腔)

全员无门槛畅听⤓ 下载音频

有声朗读已就绪

00:00

00:19

AI 导读

安全与通用推理共享「理解意图—调用知识—推演后果」的结构，可以在同一 mid-training 阶段一起学。

推荐理由

该研究提出了安全 mid-training 方法，通过在预训练和后训练之间引入一个阶段，在共享的结构中共同发展安全性和通用推理，从而减少安全-效用权衡，并使安全性对后续训练更加稳健。

正文 · AI 翻译

查看PDF HTML（实验性）

摘要：大型语言模型（LLMs）的安全对齐主要在训练后进行，而最近的研究也开始将安全数据纳入预训练。然而，当后续训练不再包含安全数据时，安全性可能会下降，而安全性的提升往往以通用能力为代价。这种紧张关系表明，安全性和通用推理不应被视为独立的训练目标。我们反而认为安全是一个LLM能力，可以通过与通用任务共享的推理结构来学习。两者都需要模型理解意图或任务目标，应用相关知识，并推理潜在后果。我们引入了中期训练安全，这是预训练和训练后之间的一个阶段，通过这个共享结构共同发展安全性和通用推理。给定安全和效用提示，基础模型生成结构化文档和推理轨迹，然后用于中期训练。安全中期训练将相对于Qwen3-1.7B、4B和8B基础模型的平均攻击成功率（ASR）降低了72%至81%，同时提高了通用能力。这些好处在后续的训练中持续存在。在仅进行通用SFT之后，中期训练的模型在很大程度上保留了其安全性，实现了比基线模型更低的ASR，而没有牺牲通用能力。在没有安全奖励的情况下，它们在仅进行通用GRPO时也保留了安全性，而后续的RL在从中期训练模型初始化时达到了更好的安全-效用前沿。总之，这些结果表明，在中期训练阶段学习安全性和通用推理可以减少安全-效用权衡，并使安全性对后续训练更加稳健。

主题：	计算与语言（cs.CL）
引用：	arXiv:2610.26809 [cs.CL]
	（或 arXiv:2610.26809v1 [cs.CL]为此版本）
	https://doi.org/10.48550/arXiv.2610.26809 arXiv-issued DOI via DataCite

投稿历史

来自：Zhengyue Zhao [查看电子邮件]
[v1] Mon, 19 Oct 2026 17:49:49 UTC (170 KB)

💡量子基态深度拆解 · 关联专栏与产品

原创出品站长/Quantara 团队·约 3 分钟深度解析

Cursor Agent 架构全景拆解：从影子工作区到多文件推演引擎

全面剖析 Cursor 在 Agent 模式下的底层技术实现，解析影子分支隔离、LSP 上下文剪枝以及预测性补全的核心架构细节与工程实践经验。

深入理解底层架构与行业变量阅读完整拆解 →

精选收录Vercel Changelog·约 1 分钟深度解析

Vercel v0 推出全新多 Agent 协作画布与实时全栈部署预览

动态速评：v0 正在从单一组件生成器演进为全栈应用搭建协作台，尤其是与 Neon/Postgres 的直连极大降低了全栈原型验证成本。

深入理解底层架构与行业变量阅读完整拆解 →