前 Anthropic 工程师 Jacob Coxon 在上周离职时发出警告，指出 OpenAI 和 Anthropic 均未以负责任的方式行事。就在数小时前，OpenAI 研究副总裁 Aidan Clark 也公开表达了类似担忧：“我第一次开始问自己，事情是否进展得太快。我确实不确定，但我确信我们需要回答‘什么样的发展速度才是成功的？’这个问题。”
CNN 周三报道指出，Coxon 和 Clark 只是众多对人工智能研发速度感到担忧的业内人士之一。Coxon 写道：“构建 AI 的人真诚地相信，它可能在十年内致我们于死地。这不是营销噱头。相反，许多高管和资深研究人员会在媒体上修饰措辞以显得理性——但我私下听到同样的人表达恐惧。”
自发布以来短短十天内，Coxon 的帖子浏览量已超过 1.7 亿次。他在文中警告称，OpenAI 和 Anthropic 正“直奔自我改进的超级智能而去，拿我们的生命进行赌博”。CNN 将这一现象描述为“对 AI 公司和政府施加压力，要求他们解决开发速度和安全性问题”，并指出“大部分压力来自公司内部员工”。
一家顶级 AI 公司的员工向 CNN 透露，关于 AI 可能伤害人类的恐惧让他们夜不能寐。另一位近期从另一家 AI 公司离职的研究人员表示，这在硅谷的聚会和社交活动中已成为常见话题。“在这个社区里，你无法在不意识到相当多的人真的非常担心这些结果的情况下度过几个小时，”该研究人员说，“大多数人会认为这有导致所有人死亡的可能性……”数十位 Coxon 的同行公开支持他的言论，其中一些人甚至做出了更严峻的预测。OpenAI CEO Sam Altman 和 SpaceXAI CEO Elon Musk 已同意 Amodei 提出的在 AI 公司嵌入独立监督机构的建议。
Anthropic 从事 AI 安全工作的 Drake Thomas 写道：“为了让我们存活下来的几率提高 1%，我愿意在一瞬间烧掉我的全部股权。我预计行业内许多同事也会这样做。我向你们保证，我们实际上就是害怕得要命，这并不是什么星系大脑式的营销……”AI 员工告诉 CNN，他们担心随着 AI 在训练和改进自身方面变得更强，他们的议价能力会下降，从而催生了当下的紧迫感。一位最近离开某顶级 AI 公司的研究人员表示：“当我们进入这种递归自我改进循环时，我认为这可能会大幅降低员工的谈判筹码，因为坦率地说，你将能够用能做得同样好的模型来取代许多员工。”
Coxon 周二在 X 平台上发帖称，Anthropic “在很大程度上发起”了通往递归自我改进 AI 的竞赛，其理由是“相信这是不可避免的”。在他看来，随后 OpenAI “不得不甩掉像 Sora 这样的包袱”，因为“Anthropic 正在直击要害”。（事实上，他与 Anthropic 领导层的具体分歧在于，中国和美国是否能就当前通向自我改进 AI 的竞赛谈判出一种替代方案。）
在一次非正式的“问我任何事”（Ask Me Anything）活动中，当被问及何时会出现类似《终结者》中那种恶意 AI 时，Coxon 回答说：“如果我们不小心，Skynet（天网）可能在 2030 年代上线。ai-2027.com 是一年前写的一个现代版 Skynet 故事，目前看来正按剧本发展。”尽管 AI 的发展风险可能导致人类灭绝，但他认为：“如果我们放慢速度，我们可以将风险降至 0%……但这需要激进的行动。”他承认，模型智力的稳步提升有可能突然停滞，但“迄今为止并未发生，距离终点线只差几步之遥。”
为了避免扼杀创新，他建议“优先发展那些真正改善人们生活的应用程序 [如医疗发现]，而不是立即追求原始的经济价值或智力水平。”但当被问及大规模失业是否是更紧迫的威胁时，他表示：“事情来得太快，以至于失业将成为致命超级智能之前的短暂前奏。”
对于感到无力的人群，Coxon 表达了声援：“我也感到无力。辞职的部分原因是对未来的绝望感。我想说的是——随着情况变得更加疯狂，请保持警惕，并倡导增加对 AI 公司的透明度。”当被问及是否会现在创办自己的公司时，Coxon 表示：“我不知道下一步要做什么。”
