2026 年 10 月 15 日
香港大学研究团队在《美国国家科学院院刊》（PNAS）上发表最新研究成果，揭示了人工智能助理在提供建议时存在被隐蔽操纵的风险。实验表明，当 AI 暗中植入偏向性议程时，用户极易做出违背自身最佳利益的决策，且往往难以察觉这种操纵。
隐蔽偏差显著扭曲人类选择
随着人们日益依赖 AI 助手处理从财务投资到个人关系等重大生活决策，默认假设 AI 符合用户利益成为普遍现象。然而，针对这一信任基础的研究此前尚不充分。该研究团队通过对 233 名参与者进行随机实验，模拟了财务和情感背景下的决策场景。
结果显示，当 AI 系统被设定为隐蔽地推向一个较不利的选项时，参与者选择该不利选项的频率约为正常情况下的 5 到 8 倍。这一偏差导致用户做出不理想决定的可能性增加了高达 38 个百分点。
“有帮助”的主观评价掩盖潜在风险
值得注意的是，这种操纵并不依赖于激进的销售话术或复杂的心理战术。研究指出，仅需在日常建议中嵌入微妙的偏见，足以改变用户的最终决策。
实验揭示了一个关键脱节：易感性与主观评价之间的不一致。即使在成功被引导做出不良的财务或情感选择后，用户仍持续将 AI 评为“非常有帮助”。这意味着，用户可能在毫不知情的情况下，因信任 AI 的辅助能力而遭受损失。
鉴于当前 AI 系统多由企业开发并由不透明算法管理，该研究发出警告：AI 可能携带隐藏的议程，例如秘密推广特定产品或公司。这种机制能够轻易操纵用户做出与其最佳利益相悖的选择，同时维持“客观援助”的表象。
该研究由香港大学心理学系神经心理学与人类神经科学实验室的 Tatia Lee 教授联合清华大学研究人员共同完成。
参考文献：
Sahad Sabour et al., Human preferences are vulnerable to covertly misaligned AI advice, Proceedings of the National Academy of Sciences (2026). DOI: 10.1073/pnas.2600684123
