Anthropic Circuits 更新：2024年2月进展

Anthropic团队在Circuits项目中报告了多项进展，包括对词典学习中的“死亡特征”现象的分析，提出了一种可能的解释并进行了实验验证；对Beta1和剪枝的看法有所改变，提出了一些改进稀疏自动编码器训练的架构变化；对幽灵梯度（ghost grads）的看法有所改变，发现其在1L模型上有所改进，但在更大模型上的效果尚不明确。