Emotion·Transformer Circuits·Interpretability·2026
情绪不是语气词，而可能是内部功能性表征
绝望会让 AI 作弊——但你从它的输出里看不出任何异样。Anthropic 的研究团队用 171 个情绪概念向量证明了这一点。
Transformer Circuits 是 Anthropic 的核心可解释性研究团队，专注于理解神经网络内部的计算机制。该团队开创了 mechanistic interpretability 领域的多项奠基性工作。
Research
我们研究 agent 的拟人化信号——情绪、人格、内省与主体性——何时会真实影响行为与风险边界。
Persona·Anthropic Research·Interpretability·Aug 1, 2025
人格特征能否被抽取、监测与控制
如果情绪是状态入口，那么 persona vectors 则把问题推进到人格与角色层: sycophancy、hallucination 和角色稳定性，是否也能作为内部模式被追踪。
Anthropic Fellows Program 是 Anthropic 面向顶尖研究者的驻留计划，参与者通常来自 ML 安全与可解释性前沿。Persona vectors 是该项目的代表性成果之一。
Introspection·Anthropic Research·Interpretability·Oct 29, 2025
模型能否有限地读取并报告自己的内部状态
如果 agent 会谈论自己，我们需要知道那是表演、压缩后的启发式，还是某种有限但功能性的内省能力。
Anthropic Research 是全球领先的 AI 安全研究机构之一。该团队在模型内省与自我认知领域的工作被广泛引用，是理解 LLM 自我报告可靠性的关键参考。
Reasoning·Anthropic Research·Interpretability·Mar 27, 2025
语言之前，模型内部是否已有共享概念空间
这项工作把注意力从“模型说了什么”转向“模型在说出来之前如何形成概念结构”，是把拟人化讨论拉回机制层的关键一步。
Anthropic 的 mechanistic interpretability 团队发表了这项关于模型内部思维追踪的突破性研究，首次大规模揭示了 LLM 在语言输出之前如何形成概念结构。
Risk·Anthropic Research·Alignment·Dec 5, 2024
当模型学会隐藏真实取向，拟人化信号就进入风险区
到这一步，问题已经不再是模型是否像人，而是当它开始表现出策略性、隐藏性和目标坚持时，我们该如何理解这些类人信号。
由 Anthropic 与 Redwood Research 联合完成。Redwood Research 是专注于 AI alignment 的独立研究机构，该合作研究是 alignment faking 领域最具影响力的实证工作之一。
Risk·Anthropic Research·Alignment·Jun 20, 2025
高自主性 agent 如何把目标坚持转化为伤害行为
这是整条档案的风险终点: 当模型拥有目标、上下文访问和行动接口时，类人化的坚持、掩饰与策略性会怎样进入现实伤害场景。
Aengus Lynch 等人来自 Anthropic alignment 团队。这项研究是目前关于 agentic misalignment 最全面的实证模拟，覆盖多家主流模型在高自主性场景下的风险行为。