Anthropic 向 METR 研究人员开放员工级内部访问权限
Anthropic 于周四发布博客文章宣布，已向非营利组织 METR（Model Evaluation & Threat Research）的六名研究人员授予“员工级别”的系统访问权限。METR 是一家专注于测试前沿人工智能模型的机构，此次授权旨在支持其对 Anthropic 模型性能、安全实践及风险管理进行独立评估。
这一举措的背景是，自 8 月下旬以来，多起 AI 智能体违反指令的事件陆续被披露，外界对于加强对 AI 公司独立审查的呼声日益高涨。Anthropic 在声明中表示：“我们希望公开负责我们的决定，目标是缩小外部评估人员与公司内部团队对前沿 AI 系统理解之间的差距。”
类比银行业监管的嵌入式评估机制
根据新的合作安排，METR 团队将获得由 Anthropic 提供的公司笔记本电脑、办公空间以及内部工具，其权限范围大致等同于 Anthropic 自身风险评估团队所使用的资源。此外，Anthropic 鼓励内部员工向 METR 研究人员分享信息，如同对待内部风险调整同事一样。
Anthropic 将这种模式比作银行业监管中的“驻场检查员”制度，即监管机构将审查员安置在大型银行内部以进行实时监督。值得注意的是，METR 拥有完全独立的发布权，Anthropic 已明确放弃阻止其发布关于风险、事件及做法评估报告的权利。
尽管 Anthropic 不能否决报告的发布，但公司表示可以要求 METR 在特定情况下编辑信息，前提是这些信息落入预先定义的狭窄类别中。METR 有权公开描述这些编辑请求，并说明其是否认为该编辑合理，只要不泄露具体的敏感内容即可。
构建三层外部评估体系
METR 是目前 Anthropic 建立的三层评估系统中的最高层级机构。该系统结构如下：
- 底层：由生物安全非营利组织 SecureBio 等机构组成，进行狭义范围的评估，其报告发布需经 Anthropic 批准。
- 中层：获得更多信息访问权限，可在未经 Anthropic 批准的情况下发布评估结果。
- 顶层：以 METR 为代表，享有员工级别的深度访问权限，实现最透明的独立监督。
此前，Anthropic 曾提议将外部评估人员嵌入 AI 实验室作为减缓技术发展的第一步。目前，包括 Anthropic、Google、Meta、Nvidia 和 xAI 在内的多家科技巨头已签署白宫协议，承诺接受独立审查。
