Anthropic 探索使用字典学习特征作为分类器

Anthropic 团队的研究表明，使用字典学习特征训练生物武器分类器在某些场景中优于原始激活，线性特征分类器在某些情况下甚至能超越基于原始激活的分类器。此外，基于特征激活的分类器可以用于可视化数据集中的虚假相关性，有助于构建对抗攻击。然而，使用特征引入了比原始激活更大的复杂性。