Anthropic：让 Claude 理解为何错比示范对齐行为更有效

研究测什么

这条推文反映的是 Anthropic 在 AI 对齐（alignment）训练方法论上的新发现，核心实验设计应当是比较两种对齐策略：

• 行为示范法（Behavioral Cloning / SFT）：向模型展示大量「输入→正确行为输出」配对样本，让模型通过监督学习模仿安全响应。
• 因果解释法（Explanation-based / Counterfactual）：不只给正确示范，而是在错误响应后附加「为什么这个回答是错的」的详细解释或反事实推理。

结论是后者（让模型理解错误的根因）在模型安全性指标上系统性优于前者。

方法论质疑

这套结论的可信度需要打几个问号。

实验可控性风险：「理解为何错」和「模仿安全行为」的差异可能不来自认知深度，而来自训练数据量和信息密度的混淆。如果解释组包含更丰富、更长上下文的训练样本，那优越性可能只是数据量效应，而非因果推理机制本身带来的提升。原始研究是否做过 token 数匹配控制，这一点至关重要。

指标过拟合风险：对齐研究的评