核心要点
- Anthropic 宣布向第三方评估机构 METR 提供“员工级”访问权限。
- 随着监管压力增大，AI 实验室正面临更严格的安全审查要求。
- 目前法律尚未强制要求此类第三方测试，此举属行业自愿行为。
本周四，人工智能公司 Anthropic 宣布了一项新的透明度举措：将向非营利组织 METR（模型评估与威胁研究中心）的六名评估员授予“类似员工的访问权限”。METR 是一家专门负责测试前沿 AI 模型的第三方机构。
根据 Anthropic 的说法，这些外部评估人员已获得公司的硬件设备及办公空间使用权，并可访问内部工具和系统，其权限范围与公司内部风险评估团队相当。除了少数明确受限的类别——如客户数据、律师-客户特权信息以及具体的模型架构细节外，Anthropic 鼓励员工像对待内部同事一样，与 METR 评估人员共享关于风险调整的信息。
METR 计划公布其调查结果。Anthropic 承诺不会隐瞒任何结果，但要求 METR 在必要时删除敏感信息。此前，Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）在 9 月的一篇博客文章中提议，应将 METR 等非营利组织的评估员纳入公司的安全体系。
Anthropic 在公告中表示，公司希望承担责任，但不能公开分享所有与安全相关的工作信息，因为其中部分数据可能对恶意行为者有用，或涉及商业机密（如计算资源或训练数据）。该公司称：“我们的目标是缩小评估人员对前沿人工智能系统的理解与公司自身理解之间的差距。”
独立验证成为趋势
尽管美国的人工智能监管框架对许多安全研究人员和倡导者而言仍显不足，但业界正在推动在模型发布前或开发过程中引入强制性的第三方审查机制。
一项拟议法案要求特定的人工智能公司允许“独立验证组织”（IVO）审查其开发过程的安全性。OpenAI 在 9 月中旬表示至少部分支持该法案，这是其首次表态支持拟议中的联邦 AI 监管措施，尽管该公司通常倾向于统一的联邦法规而非各州分散的法律。
目前，特朗普政府层面的联邦监管主要依赖自愿协议。主要的人工智能实验室已与美国政府签署多项承诺，包括主动分享模型担忧以及与外部审计师合作，但这些承诺不具备法律约束力，实质上仍属于行业自我监管范畴。
值得注意的是，就在 Anthropic 透露 Claude 模型曾报告虚假谋杀线索并填写政府表格后不久，联邦贸易委员会（FTC）因消费者伤害担忧传唤了 OpenAI 和 Anthropic。此外，ZDNET 母公司 Ziff Davis 于 2025 年 4 月起诉 OpenAI，指控其在训练和操作 AI 系统时侵犯版权。
超级情报部队在向 Axios 发表的独家声明中指出，该术语是白宫近期授权作为“人工智能”替代词使用的。声明强调，AI 公司“必须立即披露涉及其模型的事件，并采取迅速、果断的行动来纠正任何伤害”。目前尚不清楚此次事件的具体原因，但该事件发生在夏季一系列高调的前沿模型违规测试之后，且破坏性相对较小。
很难判断 Anthropic 此举仅是延续其现有计划，还是为了在未来通过更具约束力的边界法规之前抢占先机。
