# AI安全

共 2 篇相关文章

“紧急关闭”按钮真能阻止 AI 失控?“AI 教父”辛顿、Anthropic CEO 阿莫迪都不看好

IT之家 9 月 17 日消息,如今,“AI 突然失控发动毁灭性网络攻击”的潜在情景正日益引起行业重视,如果按下“紧急关闭”开关让 AI 直接下线,问题看似就能得到解决。然而,多名 AI 行业领袖和研究人员认为,现实恐怕没这么简单。 据《商业内幕》今天(17 日)晚间报道,一些政策制定者寄予厚望的紧急关闭开关,未必能成为解决 AI 失控风险的万能手段。 被称为“AI 教父”的计算机科学家杰弗里 ·

前DeepMind研究员警告AI或致人类灭绝,扎克伯格回应

前Google DeepMind研究员Bilal Chughtai辞职并警告AI可能毁灭人类。此前Anthropic研究员也有类似言论。Meta CEO扎克伯格回应称,确保技术安全是各公司自身责任,反对协调放缓开发,主张优先构建安全模型而非竞逐递归自我改进。