Google 与 Google DeepMind 的研究人员于周三宣布成立深度智能研究所（DeepMind Institute），旨在推动围绕通用人工智能（AGI）的讨论。该研究所的董事会成员包括 DeepMind 联合创始人 Shane Legg、Google 执行官 James Manyika 以及 Google DeepMind 负责人 Demis Hassabis，由 Legg 担任管理编辑。
深度智能研究所的宗旨是呈现 Google、Google DeepMind 以及全球 AGI 研究社区之间存在的不同观点。声明指出：各方「并不总是意见一致，而且随着快速演变的前沿领域不断有新的数据和信息出现，他们的立场很可能发生变化」。
研究所推出的首期论文集共收录四篇文章，主题涵盖：应对潜在 AGI 颠覆的经济政策、保护人类可读的模型推理、人类繁荣的原则，以及评估前沿 AI 模型的框架。
在透明度议题上，DeepMind 安全研究人员 Rohin Shah 与 Anca Dragan 在合著文章中提出，AI 透明度窗口的收窄——即无法看到和检查模型逐步推理过程——并非不可避免。两位作者认为，开发者和监管机构应当直面安全性问题，可能的手段包括限制模型的「不透明序列深度」（即模型在不产生可读推理轨迹的情况下可执行的顺序计算量），或要求开发者证明透明度较低的系统仍可被有效监控。
另一篇文章中，Hassabis 提议由美国主导设立一个前沿 AI 标准机构，负责对最先进的 AI 模型进行评估。按照他的框架，开发者将在模型发布前 30 天自愿提交模型接受审查；一旦评估体系被证明有效，通过相关测试可能成为在美国部署前沿模型的前置条件。
该机构初期将与 AI 公司协商设计评估方案，但后续将开发独立的、不对外公开的评估——论文称之为「保留的测试」——以防止实验室针对已知评估定制模型。Hassabis 表示，若形势严峻需要，该框架可以「升级」，措施可能包括前沿 AI 开发者之间的协调减速。
这批论文发布的时间点，正值业内围绕 AI 安全的讨论从宽泛的担忧声明转向具体的政策建议，包括披露要求、外部审查，以及在保障措施滞后的情况下进行协调减速。与此同时，行业领袖普遍支持 Anthropic 首席执行官 Dario Amodei 关于为前沿 AI 发展「加速」监管力度的呼吁。
主题：AI、通用人工智能、Google、Google DeepMind
