大规模识别 LLM 交互的 SPEX 和 ProxySPEX 算法
推荐理由：SPEX 和 ProxySPEX 算法能够在大规模上识别关键交互，为 LLM 的可解释性研究提供了新的方法。
数据与训练
全部主题训练侧的门道：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
最新精选
第 81–100 条 · 共 108 条3月13日星期五周五
2月25日星期三周三
2026 年 1 月至 2 月开放权重大型语言模型架构分析
推荐理由：本文详细介绍了 2026 年 1 月至 2 月期间发布的 10 个主要开放权重大型语言模型，分析了它们的架构相似性和差异性，为读者提供了丰富的背景信息和技术细节。
2月23日星期一周一
语音模型在关键领域失败的原因及解决方案
推荐理由：原文提出了针对语音识别系统在实际应用中存在的问题，并介绍了通过合成数据生成技术提高模型性能的方法，对相关领域的研究者具有参考价值。
2月19日星期四周四
一致性扩散语言模型：在不牺牲质量的情况下提高 14 倍的推理速度
推荐理由：CDLM 通过优化 DLM 的训练和推理过程，实现了更高的效率和吞吐量，对 DLM 的发展具有重要意义。
.gif&mode=card&exp=1792281600&sig=006cfcaaddbff8c3)
2月3日星期二周二
Sarvam Audio：超越转录的语音识别技术
推荐理由：Sarvam Audio 在印度语音识别领域提出了创新解决方案，支持多种转录格式、多说话者分离和上下文感知，为语音交互应用提供更精准的理解和交互体验。
1月15日星期四周四
CoVal：从众包中学习价值观感知评分标准
推荐理由：CoVal 数据集通过收集大量用户对模型回答的偏好，为研究模型行为和偏好差异提供了新的工具，有助于理解不同人群对模型行为的期望，并指导更透明的 AI 系统开发。
1月10日星期六周六
信息驱动的成像系统设计
推荐理由：该研究提出了基于信息理论的新方法来评估和优化成像系统，对成像领域有潜在影响。
12月30日星期二周二
2025 年大型语言模型发展回顾：推理、RLVR 和 GRPO 算法，以及 LLM 架构和推理模型的发展
推荐理由：文章回顾了 2025 年大型语言模型的重要进展，包括推理模型、RLVR 和 GRPO 算法，以及 LLM 架构和推理模型的发展，对读者了解 LLM 的发展趋势和未来方向有重要价值。
12月5日星期五周五
ARC Prize 2025 结果分析：AI 推理系统与 refinement loops 的应用
推荐理由：ARC Prize 2025 的结果和分析揭示了 AI 推理系统的发展，以及 refinement loops 在 AI 推理中的应用，对 AI 行业具有重要意义。
12月4日星期四周四
AI智能体上下文工程：最佳实践与实现技巧
推荐理由：本文深入探讨了AI智能体构建中的上下文工程问题，提供了实用的方法和最佳实践，对理解和应用上下文工程有重要价值。
12月3日星期三周三
DeepSeek V3.2：架构、稀疏注意力和强化学习更新
推荐理由：DeepSeek V3.2 引入了新的稀疏注意力机制和自我验证/自我改进技术，提高了推理能力和效率。
11月1日星期六周六
基于分而治之的强化学习算法：无TD学习
推荐理由：该论文提出了一种基于“分而治之”的强化学习算法，旨在解决长时程任务中的离策略强化学习问题，具有潜在的应用价值。
10月27日星期一周一
基于策略的蒸馏：LLM后训练的新方法
推荐理由：该研究提出了基于策略的蒸馏方法，结合了在线训练和密集奖励信号的优势，为LLM后训练提供了一种高效且可靠的方法。
9月29日星期一周一
LoRA方法及其在模型微调中的应用
推荐理由：原文详细介绍了LoRA方法及其在模型微调中的应用，对于了解和实现模型微调的读者具有参考价值。
9月1日星期一周一
伯克利AI研究：word2vec 学习了什么？
推荐理由：该研究提供了对 word2vec 学习过程的定量和预测理论，有助于理解特征学习在自然语言任务中的应用。
8月9日星期六周六
从 GPT-2 到 gpt-oss：分析架构进步
推荐理由：OpenAI 发布了新的开源大型语言模型 gpt-oss，分析了其架构进步，读者可以了解其能力变化和开放入口，判断其对现有工作流的影响。
8月5日星期二周二
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 模型
推荐理由：OpenAI 发布了 gpt-oss-120b 和 gpt-oss-20b 模型，展示了其在推理、编码和工具使用方面的能力，并进行了安全测试和评估。
6月10日星期二周二
Mistral AI 发布推理模型 Magistral，推动 AI 研究进展
推荐理由：Mistral AI 发布了首个推理模型 Magistral，该模型在特定领域推理、透明推理和多语言推理方面表现出色，对 AI 研究领域有重要贡献。
5月23日星期五周五
Sarvam AI 发布专注于印度语言的混合推理模型 Sarvam-M
推荐理由：Sarvam AI 发布了 Sarvam-M 模型，这是一个专注于印度语言的混合推理模型，通过监督微调、强化学习和推理优化显著提升了模型在印度语言、数学和编程任务上的表现。
4月28日星期一周一
大型语言模型中注意力机制的研究进展
推荐理由：该研究深入探讨了注意力机制在大型语言模型中的表现，为理解注意力模式形成提供了新的视角和方法。