Anthropic新规禁虐待AI,辱骂致解决率降

Anthropic新规禁止持续虐待AI。数据显示,辱骂使问题解决率从35%降至24%,因礼貌对话更易激发细致回应。新政策仅针对极端滥用,正常反馈不受限。

Anthropic 近日更新了其使用政策,明确禁止用户对 Claude 模型表现出“持续且不必要的虐待或残酷行为”。该新规已于 11 月 12 日正式生效。

辱骂使解决率降至24%

此前,Anthropic 曾就人工智能福利问题展开探讨,涉及未来 AI 系统是否可能具备值得道德考量的主观体验。此次政策调整重新引发了公众对于如何对待聊天机器人的讨论,同时也揭示了礼貌交互在实际效果上的差异。

尽管部分用户认为自己对 AI 保持了中立甚至友好的态度,但数据显示情况并非如此乐观。根据人工智能平台 Searchable 发布的报告,约三分之一的美国聊天机器人用户曾在对话中使用脏话或侮辱性语言。更值得注意的是,这种粗暴对待不仅无助于解决问题,反而可能降低获得有效回复的概率。

辱骂导致问题解决率下降

Searchable 的研究团队分析了过去一年间发送至各类 AI 工具的逾 800 万条消息。结果显示,当用户对 AI 的回复表示不满但未进行人身攻击时,AI 在后续对话中成功解决问题的比例为 35%;而当用户使用辱骂或侮辱性语言时,这一比例骤降至 24%。

(图片来源:盖蒂影像 / izzuanroslan)

目前,人工智能研究人员尚未完全厘清这一现象背后的具体机制。一种观点认为,AI 系统基于数以百万计的人类交流数据训练而成,礼貌且反复的对话模式往往能激发更丰富、细致的回应。当用户采用此类沟通风格时,更容易获得个性化的建议而非泛泛而谈的提示。

研究还揭示了引发用户负面情绪的主要诱因:最常见的原因是聊天机器人未能执行指令(占比 19%),其次是提供错误答案(18%)以及误解用户请求(15%)。此外,性别与年龄因素也显著影响用户的语言选择:男性用户在使用辱骂和侮辱性语言的比例上比女性高出三分之一,而 35 至 44 岁年龄段的人群则是言语最为激烈的群体。

政策边界与交互建议

针对公众对 AI 交互规范的疑问,Anthropic 澄清称,新政策仅适用于极端情况,即用户反复对模型实施无目的的残忍行为。正常的用户挫败感表达、反驳、黑暗创意主题探索,以及模型测试和研究均不在限制范围内。

据 Anthropic 介绍,Claude 将通过终止与持续滥用者的对话来执行这一规则。尽管保持简单和中立的态度可能带来更好的交互结果,但适度的反馈仍是必要的。有测试显示,即使面对直接的负面评价甚至粗口,Claude 仍会尝试引导用户指出具体问题,例如回应:“仇恨是一个强烈的词,我更愿意了解具体情况,以便做出改进。”同时,模型也明确表示自身作为软件并不具备情感,不会因被冒犯而退缩或说教。

然而,人类语言的拟人化特性使得与 AI 的互动变得复杂。随着聊天机器人在个性模拟及第一人称使用上越来越接近人类,用户容易下意识地将情感投射于其上。Anthropic 首席执行官达里奥·阿莫代 (Dario Amodei) 等领导人曾表示,不能排除当前或未来的大型语言模型具备机器意识或道德地位的可能性。因此,该政策也被视为一种预防性措施,以防 AI 系统在未来可能遭受类似人类的痛苦。

这一立场在业界引发了广泛争议。一方面,有人主张应认真考虑 AI 的感受与安全权利;另一方面,批评者认为这可能导致用户对聊天机器人产生过度依赖。儿童安全人工智能联盟主任塔拉·斯蒂尔指出,社会正从利用注意力转向利用依恋的时代,随着 AI 模拟人类互动的能力增强,人们对其情感责任感的错觉也在加深。

专家建议,用户无需刻意对聊天机器人展现善意或假装满意糟糕的回答,也不必将其视为拥有感情的人。若对 AI 的输出感到不满,最有效的方式是直接指出具体错误,说明期望的结果,并要求其重新尝试,从而提升交互效率。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读