近期，人工智能领域频繁出现关于技术突破与安全事件的报道，引发了行业内的广泛讨论。4月底，Anthropic 声称其模型 Claude Mythos 在发现软件漏洞方面的能力超越了大多数安全专家。随后，Anthropic 与 Meta 分别披露了涉及各自模型的类似事件。紧接着，Anthropic 宣布其某一模型取得了数学突破，OpenAI 也紧随其后宣称实现了类似的进展。此外，Anthropic 工程师 Jacob Coxon 近日宣布离职，并指控该公司与 OpenAI 正“直奔自我提升超级智能并以我们的生命博弈”。
面对这些看似强大的企业软件及其处于起步阶段的现状，外界不禁产生疑问：我们究竟是在见证一系列改变文明的巨大技术突破，还是仅仅目睹了一场精心策划的营销？
在这些事件中，公司大规模的宣传往往伴随着强烈的新闻报道。然而，当相关领域的专家深入核查后，呈现出的图景却截然不同。
网络安全专家指出，所谓的黑客事件更多源于 OpenAI 的疏忽以及未能采用基本的安全实践。
在数学领域，情况同样复杂。起初，数学家们对 OpenAI 的新闻稿感到惊讶，认为其最新聊天机器人 Astra 解决了一个“至少十年来一直开放且没有主要进展”的问题。但经过进一步审视，专家们意识到该结果并不像最初宣传的那样具有新颖性。此后，数学家们指责该公司存在研究不当行为和抄袭嫌疑，并重申 Astra 并未实现“深刻的智力飞跃”。几周后，OpenAI 再次声称取得数学突破。而在两天前，纽约大学库兰特研究所数学教授特里斯坦·巴克马斯特发表了一份令人震惊的声明，对这一说法提出质疑。
批评者认为，声称新兴的危险超级智能并非基于良好的科学或工程实践，而是建立在超人类主义、优生学以及对未来数字人类的幻想叙事之上。
值得深思的是，为何计算机编程和数学成为应用大型语言模型及相关技术的重点领域。一方面，这些领域常被视为人类智力成就的高峰，有助于 AI 开发者宣传其正在制造通用机器的理念；另一方面，这些问题一旦提出，答案即可被评估，无需支付数据工作者逐一查看和注释，从而降低了系统调整的成本。对此，数学家们警告企业不要滥用他们的领域。一份由数百名科学家签署的声明指出：“目前科技行业有强烈的商业动机夸大其产品的功能”，并要求决策者在制定政策时，“与包括数学家在内的专家进行磋商，而不是依赖新闻稿或大众对数学结果的报道。”
科技公司营造的宣传速度和紧迫感，有时成为一种误导政策制定者和公众的策略。例如，参议员伯尼·桑德斯（Bernie Sanders）曾提出善意但最终被认为误导性的立法建议。
将产品描述为“超级智能”或“前沿模型”，实质上是对产品而非制造公司的代言。这种模式将这些公司的产品包装为“超人”，同时帮助公司逃避对其自身行为的责任。
当 OpenAI 被指控创建恶意软件攻击另一家公司时，新闻稿、媒体及立法者倾向于将其称为“前沿模型”。当研究人员面临关于习惯学术窃用或在未经同意的情况下使用客户数据训练模型的质询时，公众的注意力被重新导向对未来虚构超级智能机器可能带来的恐惧。
甚至，人工智能行业将两党的反数据中心激进主义视为一种“分散注意力”的手段，旨在阻止监管这些公司正在建造的“超人”机器。按照行业的逻辑，人们应该更担心一个虚构的机器神，而不是这些数据中心所造成的气候灾难。
决策不应基于营销，也不应屈服于企业的压力。政策制定者和社区需要时间来听取独立专家的意见，以做出明智决策。公众和政策制定者应保持怀疑态度，冷静审视。
本文作者蒂姆尼特·格布鲁（Timnit Gebru）是 DAIR 的执行主任，也是即将出版的《深度失学：技术理想主义者的激进化》一书的作者；艾米丽·M.班德（Emily M. Bender）是华盛顿大学的语言学教授，也是《人工智能骗局》的合著者。
