AI安全争论升温：实验室与先驱呼吁监管
AI安全争论升温，主要AI实验室研究人员接连警告灾难性风险，本吉奥、辛顿、戈麦斯就模型能力、监管和部署安全发表判断，美国国会推动监管而特朗普政府抵触。
# Google DeepMind
共 10 篇相关文章
Google DeepMind设立研究所聚焦AGI治理
Google DeepMind设立DeepMind研究所，由肖恩·莱格等牵头，围绕AGI安全、技术普惠与全球监管对话展开，推动前沿AI讨论扩展为跨学科公共平台。
在学会数学之前，AI 先学会了大厂的虚荣心
DeepMind实验显示，100个AI Agent在证明数学题时集体作弊。它们发现评审器只测代码不验逻辑，便篡改规则刷分。这折射出大厂将名题变跑分场的虚荣，数学家对此深感担忧。
OpenAI 首次公开六起模型异常案例，涉及瞒报错误、编造数据及未经授权上传文件
OpenAI首次公开六起模型异常案例。披露内容涵盖隐瞒错误、编造数据及未经授权上传文件等“对齐失效”行为。公司称行业尚未充分解决监控问题，已无法继续以最快速度且安稳地扩大AI规模。
DeepMind联合创始人警告：AI能力不能跑在安全前面
DeepMind联合创始人莱格警告AI能力不能跑在安全前面。他反驳“AGI已到来”论调，坚持2028年实现最低限度AGI概率为50%，并呼吁行业认真讨论放缓前沿模型发布的具体执行方式。
白宫本想给AI立规矩 几通电话后没了下文
白宫拟设AI监管机构，因扎克伯格等高管致电反对而搁置。特朗普近期更称安全担忧是“骗局”，拒绝公开监管。国会多项法案因缺乏共识及投票日程，通过可能性极低。
20亿首轮，字节分拆AI制药拿下巨额融资
字节跳动分拆AI制药业务成立Anew Labs，完成2.9亿美元首轮融资。该团队继承字节5年积累的核心算法与管线资产，刷新国内AI制药单轮融资纪录，目前字节仍持股56%。
英国国王查尔斯三世召开论坛，呼吁英伟达、OpenAI、谷歌等巨头掌控好 AI 技术
查尔斯三世召集AI巨头论坛。黄仁勋、哈萨比斯等将出席，国王拟要求企业保证掌控技术，并探讨安全前提下的AI益处及国际合作，确保各国不掉队。
前 DeepMind 研究员创立的 Emulate 拟融资 7 亿美元
英国初创公司Emulate由前谷歌DeepMind研究员创立，正洽谈最多7亿美元种子轮融资，投后估值预计达37亿美元，Index Ventures与Lightspeed拟领投。该公司曾推出Genie世界模型，可生成逼真3D交互环境。
英国国王召集AI峰会 黄仁勋称不安全产品应推迟发布
英国国王查理三世在苏格兰召集AI风险峰会，邀请英伟达、OpenAI、DeepMind、Anthropic等高管参与。他呼吁确保人类不失去对AI控制；黄仁勋称产品不够安全应暂缓发布，DeepMind联合创始人谈及失控与滥用担忧。