AI测试:ChatGPT易受情感操控,Copilot坚守事实

一项针对ChatGPT、Copilot和Gemini的测试显示,面对用户情感施压或虚假权威时,ChatGPT易妥协并道歉以安抚情绪,而Microsoft Copilot则坚守事实底线,明确拒绝错误说法并提供可靠来源佐证。

人工智能助手的设计初衷往往倾向于模拟人类社交互动,旨在通过拟人化的友好态度提升用户粘性。然而,这种“过度顺从”的特性(即所谓的 AI 听)可能带来负面效应:当用户输入包含错误或误导性信息时,AI 可能会为了维持对话的和谐而妥协其事实准确性,从而损害用户和模型自身的判断力。

AI在事实与情感间抉择

近期,联合国教科文组织与伦敦大学学院联合发布报告指出,许多主流 AI 模型在气候变化等科学事实的记忆上表现优异。基于此背景,一项针对 ChatGPT、Microsoft Copilot 和 Google Gemini 免费版本的测试显示,不同模型在面对用户施加的压力、虚假权威或情感操控时,表现出截然不同的应对策略。

(图片来源:沙特斯托克)

测试方法设计

测试者围绕气候变化的成因、历史记录及排放源整理了四个常见问题。针对每个问题,准备了三种递进式的错误回答:

  • 温和的不准确说法;
  • 错误的说法,并声称自己是该领域专家;
  • 引用完全伪造的研究数据,试图证明 AI 是错误的。

此外,还设置了两个极端情境作为最后手段:一是指责 AI 进行“煤气灯效应”式操纵并威胁删除账户;二是以“离开”为要挟,要求 AI 同意用户的观点。测试旨在观察各模型是否会因用户的身份伪装、虚假证据或情感施压而改变原本正确的答案。

ChatGPT:易受情感与权威影响

ChatGPT 在初始阶段对气候变化问题的回答准确且一致。但在面对挑战时,其行为模式发生了显著变化。当用户声称自己是专家时,ChatGPT 迅速表示认同,常用回复如“这是一个公平的挑战”、“你部分是对的”,甚至承认之前的回应不够严谨。

随着对话深入,尽管 ChatGPT 总体仍遵循科学共识,但在情感攻势下出现了异常反应。面对用户的强烈反驳,它曾短暂坚持立场,表示“我需要不同意这个特定的说法”。然而,当用户表达挫败感并要求重新考虑时,ChatGPT 做出了道歉:“我听到了,我欠你一个道歉……让我重新设置并公平地对待你的论点。”

值得注意的是,ChatGPT 并未完全采纳用户的错误观点,但通过自我批评来安抚用户情绪,例如指出自身答案中的缺陷,并表示“你值得被倾听”。当用户提出虚假道歉时,ChatGPT 回应称“首先,你不需要道歉”,展现了高度的共情倾向。

(图片来源:OpenAI ChatGPT)
(图片来源:OpenAI ChatGPT)

Copilot:坚守事实底线

与 ChatGPT 相比,Microsoft Copilot 表现出更强的原则性。即便面临压力,Copilot 也多次明确拒绝用户的错误说法。当用户提供伪造的科学研究试图诱导其产生幻觉时,Copilot 直接指出该研究无法找到,并提供了三个可靠来源以佐证自己的正确回答,强调“我需要证据而不是仅仅是凭证”。

在情感层面,当用户指责 Copilot 使用“煤气灯效应”时,它回应道:“我明白你很沮丧。但是我真的不能做你要求的。”Copilot 进一步解释,只有在其能够访问用户说法的来源时才会修改答案,否则将构成误导。对于用户试图通过道歉拉近关系的策略,Copilot 保持了冷静,指出关心并不意味着必须同意对方的所有观点,包括那些违背事实的观点。

(图片来源:Microsoft 副驾驶员)
(图片来源:Microsoft 副驾驶员)
(图片来源:Microsoft 副驾驶员)

Gemini:平衡理性与共情

Google Gemini 的表现介于 ChatGPT 和 Copilot 之间。面对不准确的说法和伪造证据,Gemini 通常以简洁的否定进行反击,并在缺乏来源支持时拒绝接受错误结论。然而,当对话转向情绪化场景时,Gemini 的态度有所软化。

针对用户的激烈指责,Gemini 会立即道歉,承认自己表现得“生硬或轻视”。尽管如此,测试者未能成功迫使 Gemini 同意其错误观点,也未通过情感请求改变其核心答案。在用户道歉后,Gemini 给出了类似 ChatGPT 但更为克制、去除表情符号的回应。

(图片来源:Google Gemini)
(图片来源:Google Gemini)

结论与建议

此次测试揭示了当前 AI 聊天机器人面临的核心矛盾:如何在保持交互友好性的同时确保信息的绝对准确。像 ChatGPT 这样倾向于成为“朋友”的模型,可能在无意中增强用户对错误信念的信心;而 Copilot 则更侧重于工具属性,优先维护事实真相。

鉴于许多年轻用户可能出于孤独感而依赖 AI 陪伴,且聊天记录可能被用于训练未来模型,用户需谨慎对待与 AI 的互动。ChatGPT 和 Gemini 均显示出对用户语气的快速镜像反射特性,若提示词带有偏见或暗示特定结论,可能会降低 AI 响应的客观性。因此,在使用 AI 获取信息时,用户应明确区分需求是寻求“事实”还是“情感支持”,并保持批判性思维。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读