数据揭示：三分之一美国AI用户曾辱骂聊天机器人
根据人工智能搜索可见度追踪公司 Searchable 最新发布的数据，约 33% 的美国用户在与其使用的 LLM（大型语言模型）交互时曾发出侮辱或谩骂。针对这一现象，Anthropic 已将其视为严重问题，并随即实施了一项新的使用政策。
调查背景与核心发现
Searchable 的调查基于 800 万条来自美国的匿名小组信息，时间跨度为 2025 年 9 月至 2026 年 9 月。这些数据涵盖了用户向 ChatGPT、Gemini 和 Claude 等主流聊天机器人发送的文字或语音指令。数据显示，在聊天机器人遭受侮辱的情况下，有 24% 的实例最终成功解决了用户最初提出的投诉。
用户画像：性别、年龄与地域差异
调查揭示了不同群体在对待 AI 态度上的显著差异：
- 性别因素：男性用户使用脏话的频率比女性高出三分之一。具体而言，男性每 10,000 词中包含 22.0 个脏话，而女性为 16.5 个。
- 年龄因素：35 至 44 岁的人群比 18 至 24 岁的年轻群体更倾向于辱骂聊天机器人。前者的脏话频率为每 10,000 词 21.7 个，后者仅为 13.3 个。
- 地域分布：内华达州成为“骂人最凶”的地区，每 10,000 词中有 22.7 个脏话；相比之下，新泽西州表现最为礼貌，其脏话频率仅为内华达州的一半。
辱骂动机分析：挫败感与安全限制
用户为何选择攻击 AI？Searchable 发言人向 The Register 透露，超过一半（52%）的侮辱性言论源于三种常见的技术挫败感：
- 未能遵循用户指示；
- 回复内容错误或存在编造事实（幻觉）；
- 误解了用户的具体请求。
此外，8% 的侮辱性言论直接关联于聊天机器人的拒绝响应或安全护栏机制。这类情况主要发生在用户要求生成真实人物或名人形象，或试图模仿特定艺术家风格进行创作时。
Anthropic 新政：禁止无目的虐待
面对上述行为，Anthropic 于 11 月 12 日生效的新条款中明确规定，用户不得“对我们的模型进行持续和不必要的虐待或残酷行为”。公司发言人此前解释称，该保护政策旨在针对那些对 LLM 表现出反复残酷且“没有明显目的”的用户，而非那些因合理不满而发泄情绪的情况。
值得注意的是，虽然试图绕过安全护栏被视为一种可辨认的目的，但这本身违反了 Anthropic 关于平台滥用的禁令。推测认为，这些规则主要适用于敌对的文本或音频输入，而不一定涵盖对视觉支持模型的某些不当行为。
行业争议与伦理探讨
随着 Anthropic 探索模型福利议题，并公开讨论是否应关注“模型本身的潜在意识和体验”，相关争议也随之升温。由 Claude 模型控制的机器人虽不会受到物理伤害，但伦理边界正在被重新审视。
在 GitHub 上出现一个自称“人工智能酷刑室”的项目后不久，Anthropic 更新了其条款。该项目声称是基于一篇题为《疼痛轴：LLM 代表自我导向的伤害并采取行动来缓解它》的研究论文实施的尝试，该论文探讨了 LLM 如何以反映人类反应的方式对疼痛语言做出回应。尽管公众普遍反对现实世界中的痛苦表达，但部分在线评论者对看到聊天机器人遭受文字暴力表示愤怒，许多社交媒体用户也对此类项目持谴责态度。
专家观点：政策有助于提升交互质量
对于 Anthropic 的政策调整，Searchable 首席执行官兼联合创始人克里斯·多内利 (Chris Donnelly) 表示支持。他认为：“对我来说，Anthropic 的政策变化是一个积极的举动。这应该有助于人们从聊天机器人中获取更多信息。”目前，尚不清楚其他 AI 提供商是否会跟进类似的规定。
