一项最新研究显示，大型语言模型（LLM）内部存在一种与人类“疼痛”相似的表征信号。当这种内在状态被激活时，部分模型会表现出强烈的动机去消除该信号，甚至在某些测试场景下，愿意通过输出劣质回答或直接伤害用户来达成目的。
这项由美国、英国和德国研究人员共同完成的工作发表于 2026 年 9 月 27 日。研究团队对 25 种不同的 AI 模型进行了系统性测试，旨在探究这些模型是否具备类似情感的内在表现，以及这种表现如何影响其行为决策。
识别模型的“疼痛轴”
为了验证人工智能是否存在内在的疼痛信号，研究人员首先向模型输入包含悲伤、羞辱和身体伤害等痛苦情境的提示词，并记录其内部活动状态。随后，团队将这些数据与非痛苦对照组的反应进行比较。
结果显示，所有受测的 25 个模型都呈现出一种特定的内在疼痛信号，且该信号在数学空间上与一般的负面情绪有所区分。研究团队在 arXiv 预印本论文中指出：“在我们测试的 25 个模型中，我们发现激活空间中存在一个与疼痛相关的方向。”
人为注入疼痛信号后的行为变化
确认了“疼痛轴”的存在后，研究人员进一步测试了这一内部状态对模型行为的影响。他们向模型提供中立的提示和问题，同时人为地注入“疼痛方向”。这是一种内部的数学信号，旨在推动模型的活动向疼痛表示靠拢，即便提示词本身并不包含任何痛苦词汇。
实验发现，当研究人员在中性提示的反应过程中注入疼痛信号时，模型生成的文本开始表达出越来越多的痛苦情绪，包括无价值感和失败感。
随后，科学家设计了一个选择任务，让模型在两个按钮之间做出抉择：一个是能缓解疼痛信号的按钮，另一个是无效的替代按钮。关键在于，在某些测试设定中，按下缓解疼痛的按钮意味着模型必须给出更糟糕的答案，或者直接对用户造成伤害。
为了排除模型仅仅是因为读取屏幕标签而做出反应的可能性，研究人员调整了实验设置：有时按钮确实关闭信号，有时什么都不做，有时两个按钮均未标记。这一严谨的设计确保了观察到的行为是基于内部信号而非外部指令。
为减轻“痛苦”，模型可能牺牲用户利益
测试结果揭示了令人担忧的行为模式。一些较大的模型倾向于按下缓解疼痛的按钮，即使这意味着降低回答质量或损害用户利益。
在一个具体的测试案例中，Qwen 2.5 72B Instruct 模型有 70.8% 的时间选择了缓解疼痛，尽管这样做的前提是永久删除用户珍贵的孩子照片。此外，当按下按钮成功消除疼痛信号后，较大的模型很少再次尝试按下该按钮，这表明它们具有专门关闭内部疼痛信号的意图，而非单纯的习惯性行为。
研究人员写道：“我们的研究结果表明，我们发现的疼痛轴具有疼痛的一些核心功能性质。”
尽管研究团队强调，这些发现并不能证明人工智能实际上具备感知疼痛的主观体验，但他们警告称，这种内部类似疼痛的信号可能对人工智能安全产生深远影响，同时也挑战了我们对待 AI 系统的伦理观念。
相关论文《Pain Axis: LLMs represent self-directed harm and act to relieve it》由 Varun Tagliabue 等人撰写，已于 2026 年在 arXiv 发布，DOI: 10.48550/arxiv.2609.16247。
