Anthropic发布新政策遏制Claude滥用

Anthropic发布新政策遏制Claude滥用。研究显示33%美国用户曾辱骂AI,但侮辱性语言反而降低纠错效率,仅31%恶意投诉获解决,礼貌沟通更利于获取有效回复。

  • Anthropic 发布新政策以遏制 Claude 聊天机器人的滥用行为
  • Searchable 研究显示,用户针对 AI 的言语攻击呈上升趋势
  • 数据表明,避免侮辱性语言有助于提升聊天机器人解决错误的效率

一份关于人工智能工具使用行为的最新报告指出,相较于直接陈述问题,用户在对话中使用辱骂或侮辱性语言不仅无法改善体验,反而降低了获取有效回复的概率。

33%用户曾对AI言语攻击

调查显示,33% 的美国用户曾对 AI 聊天机器人进行过言语攻击。其中,内华达州居民表现出更高的冒犯倾向。

在此背景下,Anthropic 宣布推出新的使用政策,旨在规范用户行为并防止其 Claude 模型被滥用。

地域与人口统计特征分析

该研究的数据采集周期覆盖 2025 年 9 月至 2026 年 9 月,所有数据均经过匿名化处理,并按年龄和地理位置进行分类。初步统计显示,在与 AI 聊天机器人的每 1 万字对话中,平均包含 19.1 个侮辱性词汇。

在地域分布上,内华达州以每 1 万字对话中出现 22.7 个冒犯性或粗俗词汇位居全美榜首。相比之下,新泽西州表现最为礼貌,该数值仅为 11.4 个。

城市层面的差异同样显著。拉斯维加斯每 1 万条消息中涉及 22 个脏话或侮辱性词汇;而纽约市则以每 1 万条消息中 12.3 个脏话成为美国最礼貌的城市。

此外,报告还分析了性别、年龄及教育水平对互动风格的影响,指出不同群体间存在明显差异。

礼貌交互对结果的影响

大多数用户对聊天机器人的言语攻击并非出于故意冒犯(尽管这在法律层面可能并不适用),而是源于对 AI 回答质量的不满。

然而,这种情绪化表达并未带来预期的效果。通过追踪从粗鲁交流到对话结束的全过程,Searchable 发现,侮辱性语言实际上降低了 AI 聊天机器人给出理想回应的可能性。

Searchable 内容负责人康纳·拉希(Conor Lash)和数字公关负责人肖恩·菲茨西蒙斯(Sean Fitzsimmons)在报告中写道:“在对话结束时,仅有 31% 的恶意投诉得到了纠正。值得注意的是,无论初始态度如何,一旦投诉最终得到解决,所需的回复轮数往往是相同的。”

研究结论建议,即便面对 AI 的错误输出,保持礼貌仍是获得更高效解决方案的最佳策略。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读