2025 年大型语言模型发展回顾：推理、RLVR 和 GRPO 算法，以及 LLM 架构和推理模型的发展
推荐理由：文章回顾了 2025 年大型语言模型的重要进展，包括推理模型、RLVR 和 GRPO 算法，以及 LLM 架构和推理模型的发展，对读者了解 LLM 的发展趋势和未来方向有重要价值。
论文研究
全部主题值得读的 AI 论文与研究成果：架构创新、训练方法、能力测量与理论进展的精选解读。
最新精选
第 141–160 条 · 共 177 条12月30日星期二周二
12月19日星期五周五
激活占卜：解释大型语言模型激活的新方法
推荐理由：原文提出了激活占卜模型，并展示了其在解释大型语言模型激活方面的潜力，读者可以了解其工作原理和应用场景。
OpenAI发布关于生产评估以规避评估意识和预测偏差的研究论文
推荐理由：OpenAI展示了如何利用去标识的生产流量进行评估，以预测和跟踪模型的不当行为，为AI安全研究提供了新的思路。
12月3日星期三周三
DeepSeek V3.2：架构、稀疏注意力和强化学习更新
推荐理由：DeepSeek V3.2 引入了新的稀疏注意力机制和自我验证/自我改进技术，提高了推理能力和效率。
12月2日星期二周二
OpenAI 提出大规模代码验证实用方法
推荐理由：OpenAI 提出了大规模代码验证的实用方法，读者可以了解其如何提高代码审查的准确性和效率。
11月1日星期六周六
基于分而治之的强化学习算法：无TD学习
推荐理由：该论文提出了一种基于“分而治之”的强化学习算法，旨在解决长时程任务中的离策略强化学习问题，具有潜在的应用价值。
10月29日星期三周三
大型语言模型中的自省意识涌现
推荐理由：研究探讨了大型语言模型是否能够意识到自己的内部状态，并展示了模型在特定情况下能够识别注入的概念，以及它们能够回忆先前的内部表示并将其与原始文本输入区分开来。
10月27日星期一周一
基于策略的蒸馏：LLM后训练的新方法
推荐理由：该研究提出了基于策略的蒸馏方法，结合了在线训练和密集奖励信号的优势，为LLM后训练提供了一种高效且可靠的方法。
10月15日星期三周三
AI智能体基准汇编
推荐理由：该文档提供了对超过50个现代基准的概述，涵盖了多个AI智能体评估领域，对于了解当前AI智能体评估研究具有重要意义。
9月1日星期一周一
伯克利AI研究：word2vec 学习了什么？
推荐理由：该研究提供了对 word2vec 学习过程的定量和预测理论，有助于理解特征学习在自然语言任务中的应用。
8月19日星期二周二
ARC Prize 发布 ARC-AGI-3 预览版：评估人类与 AI 之间的差距
推荐理由：ARC Prize 发布了 ARC-AGI-3 预览版，通过互动式推理基准测试人类与 AI 之间的差距，为读者提供了评估 AI 智能的新视角。
8月15日星期五周五
ARC-AGI中HRM性能的隐藏驱动因素分析
推荐理由：本文深入分析了HRM模型在ARC-AGI基准测试中的表现，揭示了其性能提升的关键因素，对理解AI推理模型具有重要意义。
8月9日星期六周六
从 GPT-2 到 gpt-oss：分析架构进步
推荐理由：OpenAI 发布了新的开源大型语言模型 gpt-oss，分析了其架构进步，读者可以了解其能力变化和开放入口，判断其对现有工作流的影响。
7月24日星期四周四
自动对齐审计：构建和评估对齐审计智能体
推荐理由：原文提出了三种自动执行对齐审计任务的智能体，并展示了它们在审计任务中的表现，读者可以据此了解其在实际应用中的潜力。
6月10日星期二周二
Mistral AI 发布推理模型 Magistral，推动 AI 研究进展
推荐理由：Mistral AI 发布了首个推理模型 Magistral，该模型在特定领域推理、透明推理和多语言推理方面表现出色，对 AI 研究领域有重要贡献。
6月5日星期四周四
测试了所有主要AI推理系统：没有明确的赢家
推荐理由：本文对多个AI推理系统进行了测试，分析了其优缺点，并提出了未来研究方向。
5月23日星期五周五
Sarvam AI 发布专注于印度语言的混合推理模型 Sarvam-M
推荐理由：Sarvam AI 发布了 Sarvam-M 模型，这是一个专注于印度语言的混合推理模型，通过监督微调、强化学习和推理优化显著提升了模型在印度语言、数学和编程任务上的表现。
5月20日星期二周二
ARC-AGI-2：前沿 AI 推理系统的新挑战
推荐理由：ARC-AGI-2 作为一项新的基准测试，旨在评估 AI 系统的抽象推理和问题解决能力，为读者提供了了解当前 AI 系统能力与通用人工智能之间差距的视角。
5月1日星期四周四
测试时计算和思维链在推理模型中的应用
推荐理由：文章深入探讨了在推理模型中使用测试时计算和思维链的方法，分析了其对模型性能的影响，并提出了未来研究方向。
4月28日星期一周一
大型语言模型中注意力机制的研究进展
推荐理由：该研究深入探讨了注意力机制在大型语言模型中的表现，为理解注意力模式形成提供了新的视角和方法。