据英国《金融时报》报道，谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日警告，人工智能能力正在快速提升，但AI能力的发展绝不能超过安全保障水平。他同时反驳了OpenAI总裁格雷格·布罗克曼和英伟达CEO黄仁勋有关“AGI已经到来”的判断。
莱格表示，目前AI能力的发展速度“非常、非常快”，行业不能允许能力进步领先于安全措施。对于Anthropic CEO达里奥·阿莫代伊近期提出的建议，即出于安全考虑放缓前沿模型发布，但不完全暂停研发，莱格认为这一方向“值得考虑”，但各方仍需认真讨论具体执行方式。
莱格作出上述表态之际，DeepMind正式推出DeepMind Institute，研究通用人工智能的部署及其对科学、教育、社会、政策、哲学和人类福祉等领域的影响。按照DeepMind的定义，AGI是具备人类大脑全部认知能力的人工智能系统。
尽管近期AI模型能力明显提升，莱格认为，目前宣布AGI已经实现仍为时过早。他表示，自己仍坚持此前的预测，即到2028年实现“最低限度AGI”的概率为50%。莱格也是“AGI”这一术语的早期提出者之一。
OpenAI发布GPT-6 Astra后，布罗克曼宣称“我们现在已经进入AGI时代”。黄仁勋也表示“AGI已经到来”，并以Astra的能力作为依据。
莱格对此表示，即便不同机构对AGI的定义存在差异，目前也不清楚Astra是否达到了OpenAI自己的标准。OpenAI此前将AGI定义为能够完成大多数具有经济价值的认知劳动。莱格称，这些模型确实能够完成一些令人印象深刻的任务，但在他看来，其能力尚未达到OpenAI对AGI的定义。
DeepMind Institute由莱格、DeepMind董事长德米斯·哈萨比斯和谷歌高级副总裁詹姆斯·马尼卡共同担任负责人。莱格表示，随着公众开始认真对待强大通用智能出现的可能性，现在需要展开更广泛的社会讨论。研究所将把DeepMind的技术研究转化为更多公众可以理解的内容，同时邀请外部专家参与讨论。
研究所首批发布三篇文章，主题涉及AI安全、经济政策及“新乌托邦主义”原则。其中一篇由DeepMind研究人员罗欣·沙阿和安卡·德拉甘撰写的文章，将矛头指向GPT-6 Astra的发布速度。
两名研究人员认为，Astra在推理过程透明度方面呈现出“令人担忧的下降趋势”。AI公司的竞争压力可能削弱其提高透明度的动力，监管可以在这一问题上发挥作用。
不过，文章认为，只要在模型设计阶段加入保障透明度的机制，行业仍然可以继续开发能力更强的模型。研究人员指出，目前最先进的推理模型能够以人类可以理解的方式展示部分推理过程，这为外界观察和研究AI行为提供了难得的窗口。
马尼卡表示，谷歌希望参与的AI竞赛只有一个，即把这项技术做对的竞赛。
对文章打分
DeepMind联合创始人警告：AI能力不能跑在安全前面
1 (50%) 1 (50%)最新资讯
加载中...编辑精选
加载中...相关文章
-
马斯克突然对苹果撤诉 OpenAI怀疑有鬼、法官下令披露背后协议
- 12 分钟前
-
OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”
- 半小时前
-
OpenAI披露多起AI模型目标偏离事件 涉编造信息与绕过限制
- 半小时前
-
Manus据悉在新一轮5亿美元融资中瞄准40亿美元估值
- 半小时前
-
Snap推出“Specs Intelligence” 让AI主动管理工作与生活
- 半小时前
Top 10
本周 本月-
Switch模拟器迎来性能飞跃 开发工作却在巅峰时刻宣告终结
阅读 (1364) 评论 (0) -
Anthropic指控中国多家AI公司大规模蒸馏 阿里巴巴、月之暗面和DeepSeek被指涉数千万次交互
阅读 (1343) 评论 (5) -
首都禁飞区将于9月20日启用 北京全市禁飞无人机且不得持有、存放、运输、携带
阅读 (1198) 评论 (5) - 32天就下架 DeepSeek为何对自家旗舰下狠手
- 罗永浩，再也掀不起什么大风大浪
- 罗永浩评苹果折叠屏iPhone Duo：全是抄的 折痕处理是“屎上雕屎”
- iOS 27，你长得好像安卓啊
- Anthropic掌门人称“中国因素”是放缓AI竞赛的最大难题
- iPhone Duo开合动画火出圈 国产折叠屏已经开始抄作业了
- GPT-6 Astra开放Plus 20美元只能拿它干活，不能聊天
-
新研究发现母亲生育年龄影响后代的身体特征、寿命以及行为表现
阅读 (3473) 评论 (0) -
苹果正式发布iPhone 18 Pro系列 强化系统级端侧AI 售价小幅调高
阅读 (1618) 评论 (0) -
时隔多年 摩拜299元押金可全额退了
阅读 (1535) 评论 (1) - OpenClaw 2.0正式发布 一次简化安装的尝试最终重塑整个产品
- 马斯克变性女儿床上大战机器人引热议
- 男子听信AI抄近道结果被困深山 事后质问AI竟回答：早走成熟线路就好了
- 中国科学家公布800座“飞翼”客机方案 或重新定义商业航空
- 苹果iPhone Duo亮相 正式进军折叠屏领域 售价1999美元起
- 倒数日·Days Matter Android版年度重大升级：透明相机+倒数日历+事件库
- Anthropic指控中国多家AI公司大规模蒸馏 阿里巴巴、月之暗面和DeepSeek被指涉数千万次交互