前DeepMind研究员警告AI或致人类灭绝,扎克伯格回应

前Google DeepMind研究员Bilal Chughtai辞职并警告AI可能毁灭人类。此前Anthropic研究员也有类似言论。Meta CEO扎克伯格回应称,确保技术安全是各公司自身责任,反对协调放缓开发,主张优先构建安全模型而非竞逐递归自我改进。

据路透社报道,又一位前 Google DeepMind 研究员公开警告称,人工智能有可能"杀死所有人类",而避免这一结局的时间可能已经所剩无几。公众对 AI 潜在风险的担忧正持续升温。

这名研究员是 Bilal Chughtai。他在社交平台 X 上发文称:"我最近从 Google DeepMind 辞职,此前我在那里从事 AGI 安全与对齐研究。我真诚地相信,AI 有可能毁灭我们所有人,而我们可能已经没有多少时间可以避免这一结果。"根据他的 LinkedIn 个人资料,Chughtai 在 Google DeepMind 担任研究工程师,期间参与撰写了多篇研究论文,并于 2026 年 7 月离开该公司。

扎克伯格:安全责任在各公司自身

此番警告并非孤例。上周,Anthropic 研究员 Jacob Coxon 宣布辞职,理由之一是"构建 AI 的人们真诚地相信,它可能在本十年结束前把我们全部杀死"。Anthropic 科学家 Evan Hubinger 随后回应 Coxon 的言论,表示他说得没错,并认为自己判断 AI 在未来十年内杀死全人类的概率超过 10%。

与这种警惕姿态形成对照的是,Meta 首席执行官马克·扎克伯格(Mark Zuckerberg)表示,确保技术安全是每一家 AI 公司自己的责任。据美联社报道,他是在回应部分竞争对手关于协调放缓先进人工智能开发的呼吁时作出这番表态的,实际上是在与这类呼吁保持距离。

扎克伯格在 X 上写道,AI 公司本身就有动力以安全的方式开发模型,并且需要为防止模型造成危害承担"重大责任"。"每一家实验室都有责任、也有动力以安全训练模型所需的速度推进,并且有能力采取自己的行动来确保这一点。"

他以 Meta 自身为例,称公司曾将 Muse AI 智能体的发布推迟数月,以确保其安全性和可靠性。"我们没有要求其他所有人都这样做,然后自己才行动。"

扎克伯格同时提出,企业应优先构建安全的 AI 模型,而不是开发能够自动改进自身的系统——即所谓"递归自我改进"(recursive self-improvement)。他写道:"将绝大部分算力用于服务用户,而不是竞逐递归自我改进,是确保我们安全开发这项技术的最佳方式之一。"

不过他亦承认,引入独立评估机构和顾问是"行业最佳实践",并表示 Meta 超级智能实验室(Meta Superintelligence Labs)"目前已在多个领域这样做了,因为这有助于产出更好的成果"。

"我相信,为所有人构建一个积极的未来,关键在于保持正确的权力平衡,而做到这一点完全在我们的能力范围之内。"扎克伯格写道。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读