Anthropic：自然语言自动编码器可将 AI 激活解读为可读文本

产品具体是什么

Anthropic 发布的 Natural Language Autoencoder（NLA） 是一套将 AI 模型内部激活向量（activations）翻译为人类可读自然语言描述的技术框架。它不依赖事后分类或探针，而是训练一个独立的 autoencoder，让模型在处理每个 token 时产生的激活模式直接对应一段文本解释。

解决什么问题

大模型的激活向量长期是不透明的「黑箱」——研究者知道模型在做决策，但无法直接「读取」模型在想什么。传统方法（如稀疏自编码器 Sparse Autoencoder）通过寻找可解释的方向（features）来分析激活，但输出的仍是抽象向量，需要额外解读。NLA 的核心创新在于：让激活直接生成文本，极大降低了解读门槛。

研究展示了一个具体案例：Claude 在续写句子时，不仅生成主序列的预测，还会并行激活多个「可能的押韵词」——这表明模型在生成过程中存在提前规划（pre-planning）的机制，而非逐 token 临时决定。

目标用户是谁

AI 安全研究者 / 可解释性研究者是直接受益者。Anthropic 的长期目标是让人类能够直接审查模型的