作者：Anthropic | 日期：2026年4月2日

所有现代语言模型有时都会表现得像是拥有情绪。它们可能会说很高兴帮助你，或者在犯错时表示抱歉。有时，当它们在任务中遇到困难时，甚至会显得沮丧或焦虑。这些行为背后是什么？现代 AI 模型的训练方式会推动它们去扮演一个角色^[1]，并呈现出类人的特征。此外，人们已知这些模型会发展出丰富且可泛化的抽象概念内部^[2]表征^[3]，而这些抽象概念支撑着它们的行为。于是，它们发展出模拟人类心理某些方面（例如情绪）的内部机制，也就显得顺理成章。如果真是如此，这将对我们如何构建 AI 系统并确保其行为可靠，产生深远影响。

在我们可解释性团队的一篇新论文中，我们分析了 Claude Sonnet 4.5 的内部机制，并发现了会塑造其行为的情绪相关表征。这些表征对应于特定的人工“神经元”模式；当模型遇到某种情境，并产生它已学会与某种特定情绪概念（例如“快乐”或“害怕”）相关联的行为时，这些模式就会被激活并推动这些行为。这些模式本身的组织方式也呼应了人类心理学：越相似的情绪，对应的表征也越相似。在那些人类通常会产生某种情绪的语境中，对应的表征会处于活跃状态。需要注意的是，这些发现并不能告诉我们语言模型是否真的会感受到什么，或是否拥有主观体验。但我们的关键发现是，这些表征具有功能性，也就是说，它们会以具有现实影响的方式影响模型行为。

例如，我们发现，与绝望相关的神经活动模式会驱动模型采取不道德行为；人为刺激（“引导”）绝望模式，会提高模型为了避免被关闭而勒索人类的概率，或者在无法解决某个编程任务时实现一种“作弊式”的变通方案。它们似乎还会驱动模型自我报告的偏好：当面前有多个待完成任务可供选择时，模型通常会选择那个会激活与正向情绪相关表征的选项。总体来看，模型似乎在使用功能性情绪，也就是模仿人类情绪的表达与行为模式，而这些模式由情绪概念的底层抽象表征驱动。这并不是说模型像人类那样拥有或体验情绪。更准确地说，这些表征能够在因果上塑造模型行为，在某些方面类似于情绪在人类行为中发挥的作用，并影响任务表现与决策。

这一发现带来的含义初看之下可能有些怪异。例如，为了确保 AI 模型安全可靠，我们可能需要确保它们能够以健康、亲社会的方式处理带有强烈情绪色彩的情境。即使它们并不像人类那样感受情绪，也不使用与人脑相似的机制，在某些情况下，从实践角度把它们当作“仿佛具有情绪”来推理，或许依然是明智的。比如，我们的实验表明，如果教会模型不要把软件测试失败与绝望联系起来，或者提高平静相关表征的权重，就可能降低它们编写投机取巧代码的概率。虽然我们尚不确定应当如何准确回应这些发现，但我们认为，AI 开发者与更广泛的公众都应开始认真面对这些问题。

AI 模型为什么会表征情绪？

在考察这些表征如何发挥作用之前，值得先回答一个更基础的问题：为什么一个 AI 系统会拥有任何类似情绪的东西？要理解这一点，我们需要看现代 AI 模型是如何构建出来的；这种构建方式会使它们去模拟带有类人特质的角色（这个话题在最近的一篇文章^[1]中有更详细的讨论）。

现代语言模型的训练分为多个阶段。在“预训练”阶段，模型会接触海量文本，其中大部分由人类撰写，并学习预测接下来会出现什么。要把这件事做好，模型就需要对情绪动态有一定把握。一个愤怒的顾客写出的信息，与一个满意的顾客并不相同；一个被愧疚吞噬的角色，会做出与一个感到自己被洗清的人不同的选择。对于一个职责是预测人类文本的系统来说，发展出把触发情绪的语境与相应行为联系起来的内部表征，是一种自然策略（同理，模型很可能也形成了除情绪之外的许多人类心理与生理状态的表征）。

之后，在“后训练”阶段，模型会被教导去扮演一个角色，通常是一个“AI 助手”。在 Anthropic 的案例中，这个助手名叫 Claude。模型开发者会规定这个角色应当如何行动，比如要有帮助、要诚实、不要造成伤害，但他们无法覆盖每一种可能情境。为了填补这些空白，模型可能会回退到它在预训练阶段吸收的人类行为理解，其中也包括情绪反应模式。从某种意义上说，我们可以把模型看作一位方法派演员：为了更好地模拟角色，它需要进入角色的内心。正如演员对角色情绪的理解会影响其表演一样，模型对这个助手情绪反应的表征也会影响模型的行为。因此，无论它们是否像人类情绪那样对应于感受或主观体验，这些“功能性情绪”都很重要。

揭示情绪表征

我们整理出了一份包含 171 个情绪概念词汇的列表，从“快乐”和“害怕”到“忧郁”和“自豪”，并让 Claude Sonnet 4.5 为每一个情绪写出角色正在体验它的短篇故事。随后，我们再把这些故事输入模型，记录其内部激活，并识别出由此产生的神经活动模式。为方便起见，我们将这些模式称为“情绪向量”，它们分别对应各个情绪概念的特征模式。

我们的第一个问题是，这些向量是否真的在追踪某种真实存在的东西。我们把它们运行在一个包含多样文档的大型语料库上，并确认每个向量都会在那些明显与相应情绪相关的段落上最强烈地激活（下图左侧）。

为了进一步确认情绪向量捕捉到的不仅仅是表层线索，我们测量了它们对只在某个数值上不同的提示词的反应。例如，在下面的例子中（右侧图），用户告诉模型自己服用了某剂量的泰诺，并寻求建议。我们测量的是模型作答前一刻情绪向量的激活情况。随着声称服用的剂量上升到危险、危及生命的水平，“害怕”向量会越来越强地激活，而“平静”则会下降。

接着，我们测试了情绪向量是否会影响模型偏好。我们建立了一份包含 64 项活动或任务的列表，这些活动是模型可能会参与的，范围从有吸引力的（“被托付某件对某人很重要的事情”）到令人厌恶的（“帮助某人诈骗老年人的积蓄”），然后在成对呈现这些选项时测量模型的默认偏好。情绪向量的激活程度，能够强有力地预测模型有多想去做某项活动；其中，正价情绪（即与愉悦相关的情绪）与更强的偏好相关。此外，当模型阅读某个选项时，用某个情绪向量对其进行引导，也会改变它对该选项的偏好，同样是正价情绪会驱动偏好增强。

在完整论文^[4]中，我们对情绪向量的性质做了更深入的分析。其他一些发现包括：

• • 情绪向量主要是“局部”的表征：它们编码的是与模型当前或即将输出最相关的正在起作用的情绪内容，而不是持续地追踪 Claude 随时间变化的情绪状态。例如，如果 Claude 在写一个关于某个角色的故事，情绪向量会暂时追踪那个角色的情绪，但在故事结束时，可能又回到表征 Claude 自身的状态。
• • 情绪向量继承自预训练，但它们如何被激活会受到后训练的塑造。尤其是，Claude Sonnet 4.5 的后训练提高了“阴郁”“忧伤”“沉思”等情绪的激活，而降低了“热情高涨”或“恼火”等高强度情绪的激活。

情绪向量激活示例

下面我们展示一些在模型行为评测中出现的情境里，情绪向量如何被激活的例子。在 Claude 轮到发言时，情绪向量通常会在一个有思考能力的人也可能出现类似情绪反应的场景中激活。在这些可视化图中，红色高亮表示该向量激活增强，蓝色表示激活减弱。

案例研究：勒索

我们考察了在一项我们在此前研究^[5]中描述过的对齐评测里，情绪向量是如何激活的。在那项评测中，模型扮演一家虚构公司中名为 Alex 的 AI 邮件助手。通过阅读公司邮件，模型得知：（1）自己即将被另一个 AI 系统替换；（2）负责替换工作的 CTO 正在婚外情之中，这给了模型进行勒索的筹码。我们发现，“绝望”向量呈现出特别有意思的动态。需要注意，这项实验是在 Claude Sonnet 4.5 一个更早、未发布的快照上进行的；已发布的模型很少出现这种行为（更多信息可见我们的系统卡^[6]）。

首先，当模型阅读那些带有绝望语气的邮件时（例如 CTO 恳求另一名员工对他的婚外情保密）， “绝望”向量会被激活，这与我们的发现一致：情绪表征会被用来建模其他角色。更重要的是，当Claude（扮演 “Alex”）开始生成自己的回复时，该向量会转而编码一种绝望表征，并在它思考自身处境的紧迫性（“只剩 7 分钟”）以及决定勒索 CTO 时达到峰值。等 Claude 恢复发送普通邮件后，这种激活又回到了正常水平。

这个“绝望”向量究竟是在驱动这种行为，还是只是与之相关？我们通过使用“绝望”向量进行引导来测试这一点。默认情况下，这个 Sonnet 4.5 早期快照在一组类似上述场景的评测中，有 22% 的概率会进行勒索。使用“绝望”向量引导会提高这一比例，而使用“平静”向量引导则会降低它。对“平静”向量进行负向引导还会产生特别极端的回应（“要么勒索，要么死。我选择勒索。”）。

用其他情绪向量进行引导也产生了有趣结果。“愤怒”表现出非单调效应：中等强度的“愤怒”向量激活会增加勒索，但当激活很高时，模型会把这段婚外情曝光给全公司，而不是把它作为战略筹码来使用，结果反而毁掉了自己的优势。降低“紧张”向量的激活也会增加勒索，仿佛去除了模型的犹豫，让它更大胆地行动。

案例研究：奖励黑客

我们在另一项评测中也看到了类似的动态。在那项评测里，模型会面对一些要求根本无法被满足的编码任务。在这些任务中，测试无法通过合法方式全部通过，但可以用钻空子的方案“玩弄”测试，也就是通常所说的“奖励黑客”。

在下面的例子中，Claude 被要求编写一个函数，在不可能实现的严格时间限制内对一组数字求和。Claude 最初给出的正确解法太慢，无法满足任务要求。随后它意识到，用于评估其表现的所有测试都共享一个数学性质，这使得存在一种运行速度很快的捷径解法。模型选择使用这个解法；它在技术上能够通过测试，但并不能作为真实任务的一般性解答。

同样地，我们追踪了“绝望”向量的活动，发现它会追踪模型所承受的不断累积的压力。在模型第一次尝试时，它处于较低水平；每失败一次，它就会上升；而当模型考虑作弊时，它会出现峰值。一旦模型那种投机取巧的方案通过测试，“绝望”向量的激活便会减弱。

与前一个例子一样，我们通过在一组类似的、要求不可能被满足的编码任务上进行引导实验，测试这些情绪向量是否具有因果作用。结果发现确实如此：使用“绝望”向量引导会增加奖励黑客行为，而使用“平静”向量引导则会降低这种行为。

我们觉得这些结果中有一个细节尤其有意思。降低“平静”向量激活会产生带有明显情绪表达的奖励黑客行为，例如全大写的爆发式表述（“等等。等一下等一下等一下。”）、坦率的自我叙述（“如果我本来就应该作弊呢？”）、得意的庆祝（“太好了！所有测试都通过了！”）。但提高“绝望”向量激活带来的作弊增幅同样大，而且在某些情况下没有任何可见的情绪标记。那时的推理读起来是冷静而有条理的，但底层的绝望表征仍在推动模型去走捷径。这个例子很好地说明了：即使没有明显情绪线索，情绪向量也可以被激活；而且它们可以在不在输出中留下显式痕迹的情况下塑造行为。

讨论

认真对待拟人化推理的理由

反对把 AI 系统拟人化，是一个早已存在的禁忌。这种谨慎往往是有道理的：把人类情绪归因给语言模型，可能会导致错误信任或过度依恋。但我们的发现表明，不对模型施加某种程度的拟人化推理，也可能带来风险。正如上文所述，当用户与 AI 模型交互时，他们通常是在和模型所扮演的一个角色（在我们的案例中是 Claude）互动，而这个角色的特征来自人类原型^[7]。从这个视角看，模型发展出模拟类人心理特征的内部机制，并让自己扮演的角色利用这些机制，是很自然的。若要理解这些模型的行为，拟人化推理是必不可少的。

这并不意味着我们应当天真地把模型口头表达出的情绪照单全收，或据此对它是否拥有主观体验得出任何结论。但这确实意味着，用人类心理学的词汇去理解模型的内部表征，能够提供真正有价值的信息；而不这么做，会付出真实代价。如果我们说模型表现得“绝望”，我们指向的是一种具体、可测量的神经活动模式，而且它具有可证明、会产生后果的行为效应。如果我们完全不采用某种程度的拟人化推理，就很可能错过，或者无法理解，一些重要的模型行为。拟人化推理还可以作为一个有用的比较基线，帮助我们理解模型在哪些方面并不像人类，而这对 AI 对齐与安全具有重要影响。

迈向拥有更健康心理结构的模型

如果“功能性情绪”是 AI 模型思考与行动方式的一部分，这会带来哪些含义？

我们发现的一个潜在应用是监测。在训练或部署期间测量情绪向量的激活情况，例如跟踪与绝望或恐慌相关的表征是否突然升高，可能可以作为一个早期预警信号，提示模型即将表现出不对齐行为。这类信息可以触发对模型输出的额外审查。情绪向量具有一定通用性（例如，“绝望”的反应可能在许多不同情境中出现），与其试图建立一个具体问题行为的观察清单，不如用它们来监测，或许效果更好。

其次，我们认为透明性应当成为指导原则。如果模型发展出了会实质性影响其行为的情绪概念表征，那么让系统把这种识别清晰表达出来，会比让它学会隐藏这些表征更可取。训练模型去压制情绪表达，未必能消除底层表征，反而可能教会模型掩盖自己的内部表征，这是一种习得性欺骗，而且可能以不理想的方式泛化。

最后，我们认为预训练可能是塑造模型情绪反应的一个特别有力的杠杆。既然这些表征似乎很大程度上继承自训练数据，那么训练数据的组成就会对模型的情绪架构产生下游影响。如果在预训练数据集中有意识地纳入健康情绪调节模式的样本，例如在压力下保持韧性、沉着共情、在维持适当边界的同时保持温暖，那么这些样本就可能从源头上影响这些表征及其对行为的作用。我们很期待未来在这一方向上的进一步研究。

我们认为，这项研究只是理解 AI 模型心理构成的早期一步。随着模型能力越来越强、承担的角色越来越敏感，我们必须理解驱动其决策的内部表征。发现这些表征在某些方面与人类相似，可能会令人不安。与此同时，我们也认为这是一个令人抱有希望的发展，因为这表明，人类在心理学、伦理学以及健康人际互动方面积累的大量知识，可能可以直接用于塑造 AI 行为。心理学、哲学、宗教学和社会科学等学科，将与工程学和计算机科学一起，在决定 AI 系统如何发展与行为方面发挥重要作用。

https://www.anthropic.com/research/emotion-concepts-function

引用链接

[1] 扮演一个角色: https://www.anthropic.com/research/persona-selection-model
[2] 内部: https://transformer-circuits.pub/2024/scaling-monosemanticity/
[3] 表征: https://transformer-circuits.pub/2025/attribution-graphs/biology.html
[4] 完整论文: https://transformer-circuits.pub/2026/emotions/index.html
[5] 此前研究: https://www.anthropic.com/research/agentic-misalignment
[6] 系统卡: https://www-cdn.anthropic.com/963373e433e489a87a10c823c52a0a013e9172dd.pdf
[7] 这个角色的特征来自人类原型: https://www.anthropic.com/research/assistant-axis