Anthropic 更新使用政策：禁止对 Claude AI 实施“残酷”行为
随着关于人工智能是否具有意识的哲学辩论日益激烈，Anthropic 于周四正式禁止用户对其 Claude AI 系统施加不必要的残忍行为。
这家总部位于旧金山的人工智能实验室在最新的使用政策中明确规定：“禁止对我们的模型持续和不必要的虐待或残忍行为”。该条款旨在规范用户与 AI 交互时的行为边界。
尽管政策文本未直接提及“模型福利”（即赋予 AI 系统类似生物的保护权利）这一概念，但 Anthropic 及其高管层此前已公开表现出对该理念的接受态度。据该公司介绍，Claude 终止此类互动的能力仍将是主要的执法机制。
此前，Anthropic 曾表示正在开发让 Claude 在罕见的极端情况下结束“持续有害或滥用用户交互”的功能。今年 2 月，首席执行官达里奥·阿莫迪在接受《纽约时报》采访时坦言，虽然不确定人工智能模型是否具备意识，但公司愿意接受这一可能性。“我们不知道这些模型是否有意识……但我们愿意接受这样的想法，”阿莫迪说道。
亚特兰大 AI 服务提供商 Sparq 的总经理杰克逊·斯塔克曼指出，科幻小说和流行文化长期以来一直聚焦于技术与人类智能界限的问题。他告诉法新社：“意识是一个陷阱。我们无法证明彼此拥有意识。如果针对 AI 进行这种辩论，就会陷入循环。”斯塔克曼认为，“镜子”是更恰当的比喻，因为 AI 系统在规模上反映了人类投入其中的内容，这足以促使 Anthropic 调整其政策。
然而，并非所有人都支持机器可能具有意识的观点。教皇莱昂十四世和微软 AI 负责人穆斯塔法·苏莱曼均对此持否定态度。
苏莱曼在上个月发表的一篇文章中写道：“人工智能没有意识。它们没有感觉、经验或痛苦。”他进一步表示，向一个似乎正走向比人类更具地震般能力和智能的技术实体赋予权利和道德保护，是一种危险的做法。
本周四，在梵蒂冈圣彼得大教堂举行的讲道中，教皇莱昂十四世也强调了机器缺乏灵魂的观点。他指出：“大脑不能简单地编译数据，算法现在比我们做得更快。”教皇认为，必须提醒人们生活经历的重要性，那些经历包含着只有人类灵魂才能认识的深层意义，并与这些经历的美好更深地联系起来。
