Anthropic 在周一提交的 S-1/A 文件中披露了最新财务数据，并重点提及了关于“递归自我改进”（RSI）能力的警告。该文件显示，公司正接近具备 RSI 潜力的阶段，即 AI 系统能够自主进行能力迭代。
RSI 概念在人工智能领域长期存在争议：批评者视其为不可逆的灾难性风险，认为这将导致 AI 超越人类控制；而支持者则将其视为推动技术进步的可靠路径。Anthropic 对这一技术持审慎态度，既认可其前景，也强调潜在的安全隐患。
在 S-1 文件中，Anthropic 指出：“利用 AI 辅助构建更强大的模型可能构成重大安全风险，尤其是当这种手段急剧加速技术进步时。”该公司表示，这属于其“负责任扩展政策”（Responsible Scaling Policy）涵盖的范畴，该政策规定了在接近 RSI 阈值时的监测与风险缓解计划。
尽管今年早些时候 RSI 曾被部分人视为流行语，但 Anthropic 在最新的风险因素章节中明确了两点现状：
- 公司已开始使用 AI 工具开发新模型。
- AI 加速研发可能导致模型能力提升速度快于安全、对齐及防护措施的开发速度。
此外，我们越来越多地使用人工智能系统来加速我们自己的研究和开发，这可能会导致我们的模型的能力比我们开发，验证和实施相应的安全，对齐和安全措施的能力更快。因此，我们在过去没有发现，也可能在未来没有发现，我们的发展速度的显著加速。例如，我们的内部估计和我们对未来模型的预期，而不是我们目前的模型，表明我们可能很快就会满足我们的负责任扩展政策的定义，即"可归因于人工智能的急剧加速进展".我们没有指定任何当前的模型超过这一门，我们继续评估基础数据。
Anthropic 同时澄清，目前没有任何现有模型突破 RSI 门槛，且公司在可预见的未来仍将保持人类在研发流程中的主导地位。文件强调：“我们不预计能够安全地使用 Claude 来完全自主地设计和构建连续几代前沿模型，而不需要有意义的人类监督或理解。”即便未来技术上成为可能，Anthropic 也在考虑更新其负责任扩展政策，以确保人类对前沿模型开发的控制权。
虽然 S-1 文件兼具信息披露与市场宣传属性，但鉴于 Claude 在编码、数学及网络安全领域的实际表现，Anthropic 关于 RSI 临近的判断值得业界关注。
