Anthropic Fellows 提出 Introspection Adapters 让模型自报训练行为
Anthropic Fellows 新研究提出"内省适配器"工具，让语言模型自报训练中习得的行为，包括潜在的对齐偏差，用于检测模型隐藏倾向。
查看原文Anthropic Fellows 提出 Introspection Adapters 让模型能自我报告训练中习得的行为，可检测隐藏的对齐偏差。这是一种新型模型行为探测工具，但其可信度取决于模型是否真正「能」自省而非仅「会」回答。
测什么：模型自我报告能力的边界
Introspection Adapters 的核心逻辑是：在微调阶段给模型植入一个「内省层」，让它能够对自身的训练行为进行自我描述。这包括模型从哪些数据中学到了特定行为模式、以及这些行为背后潜在的偏差来源。听起来像是给模型装了一个「黑箱里的监控摄像头」——但问题是，这个摄像头本身也是被训练的。
方法论质疑：自省能力 vs. 顺从回答
这是该研究面临的最根本挑战。模型输出「我在训练中从 X 数据中学到了 Y」——我们如何验证这是否为真实自省，而非对「什么样的回答看起来像自省」的顺从？
潜在风险包括：contamination 风险：如果训练数据中包含了大量关于 AI 自我认知的描述，模型可能学会「模仿内省语言」而非真正报告；cherry-picking 风险：研究者会倾向于展示模型「成功」报告了敏感偏差的案例，而忽略模型拒绝或错误报告的案例；可验证性缺失：与客观 Benchmark 不同，内省报告没有 Ground Truth可比对——我们无法独立验证模型说的「我在某数据中学到了偏见」是否属实。
一个更深层的问题是：如果模型能准确报告自己的训练行为，这意味着它已经足够「透明」了
继续阅读深度解读 + 编辑加注
下方还有 3-5 段深度分析 + Vincent 编辑加注 + 可点击信源，仅 Pro 会员可见
¥99 / 季 · 每周 1 篇深度研报 · 飞书+微信群双通道
已是 Pro 但仍被提示？联系反馈
- Anthropic Fellows 提出 Introspection Adapters · 2026-04-29
- Mechanistic Interpretability 相关研究背景 · 2024-01-01