Anthropic Circuits 模型更新：探索特征与模型行为之间的关系

Anthropic 团队发布了 Circuits 模型的新进展，通过研究模型激活的向量成分，如字典特征或探针方向，来分析模型内部表示。新方法 TWERA 可以衡量特征的下流目标，有助于区分相似特征，并提高 LLM 预测特定提示下影响模型输出的特征的能力。