近期，围绕人工智能发展的哲学与心理辩论持续发酵。部分观点试图赋予所有现存人类或非人类实体以绝对价值，这种立场不仅阻碍创新，更将自由置于不可容忍的境地。更为严峻的是，此类论调往往触及宗教般的排他性心理，不容忍异见，质疑其前提即被视为“异端”。本文旨在从战略与技术角度，剖析这一现象背后的逻辑及其对行业的影响。
这一讨论的核心指向有效利他主义（Effective Altruism）及其代表人物 Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）。尽管此前已有针对相关哲学含义的反驳意见，但作为关注战略与技术的媒体，更应聚焦于商业逻辑与市场动态。三个月前，本站曾分析 Anthropic 如何将安全言论转化为符合其商业利益的战略工具。此次分析则从相反视角出发：所谓的“边界和平”实际上是“安全”框架的一种变体。虽然表面出于对安全的担忧，但其深层原因在于解决前沿实验室面临的特定问题——即模型快速改进带来的“悬浮状态”，而减缓改进速度有助于缓解这种不确定性。
能力过剩
六个月前，本站发表《代理人超越泡沫》（Agents Over Bubbles）一文，论证了代理模式始于 2025 年 11 月底发布的 Opus 4.5 版本。尽管作者经营订阅业务，且并非完全基于亲身实践提出该观点，但即便在未深入使用代理编码之前，这种对代理式人工智能的看法已令人兴奋，其可能性似乎无穷无尽。目前来看，这一判断依然成立。
然而，在该论述中放弃的一个关键点是模型公司的重要性。正如文中所述：
改变 Claude Code 使其突然变得更有用，意味着模型性能并非唯一重要的因素。模型与编排层之间的整合才是真正代理差异化的所在。这对确定人工智能行业的未来结构及利润流向至关重要：利润流向价值链的模块化部分时会被商品化，而流向集成部分时则具备差异化优势。那些押注于模型商品化的公司可能难以提供具有竞争力的产品。
近期的一项项目验证了这一观点，即在当前代理中介能力的水平下，构建此类系统极具挑战性。微软将其新的 E7 企业产品围绕 Claude Cowork 进行整合，正是模型与编排层重要性结合的例证。微软 CEO 萨提亚·纳德拉（Satya Nadella）表示：
我们在 GitHub 上使用相同的安全带（Safety Harness），在安全方面也是如此。我们拥有一个多模型的“安全带”，我们将通过旋转机制支持默认训练，同时也包含 GPT、Anthropic 以及任何开放权重模型。我们将允许任何人使用他们精心调整或构建的模型。事实上，用户可以从 Fireworks 获取一个开放权重模型，进行调整后放入 Copilot，没有任何问题。
纳德拉的说法反映了航运业现实需要的过渡期。终端用户将决定微软的“安全带”与 Claude 的竞争关系，但显然，“安全带”和模型是两个不同的概念。这比表面看起来更具意义，因为它印证了克莱顿·克里斯滕森（Clayton Christensen）提出的集成与模块化理论。在《创新者解决方案》中指出：
当存在性能差距，即产品的功能和可靠性尚不足以满足特定市场客户需求时，企业必须通过制造最好的产品来竞争。此时，围绕专有、相互依赖架构构建产品的公司享有重要竞争优势，因为模块化固有的标准化限制了工程师优化性能的自由度。一旦满足功能和可靠性要求，客户开始重新定义需求，愿意为速度、便利性和定制性支付高价。此时，竞争基础发生变化，产品架构逐渐从相互依赖的专有架构演变为模块化设计。模块化架构使企业能更快推出新产品，无需重新设计一切即可升级单个子系统。虽然标准接口迫使系统在性能上妥协，但在功能足够好的时代，企业有权与客户交易部分性能。
此前在关于 Anthropic “安全超级力量”的分析中，曾举例说明 Anthropic 决定在 Fable 模型上实施严格的数据保留政策，认为其模型优势足以说服企业放弃零数据保留：
如果希望访问最佳模型，不保留数据不再是可选项。尽管今天保留仅用于安全目的而非训练，但 Anthropic 的领先地位可能显著到使其宣布也将利用这些数据进行训练，从而进一步巩固优势。
然而，事实证明 Fable 并不具备足够的吸引力：客户反应强烈，Fable 的使用率相对较低；当 Fable 5.1 发布时，Anthropic 提供的“保留你的数据”选项已经消失。这是克里斯滕森理论的实证：客户表现出愿意基于数据保留政策等非性能因素选择模型。这表明当前机型的功能已“足够好”，让客户不必为了获得尖端技术而牺牲其他权益，从而降低了尖端技术对其所有者的独占价值，并为微软等专注于分离“安全带”和模型的公司提供了战略信誉。纯粹的能力不再直接转化为护城河。
产品过剩
模块化模型和“安全带”解释了前沿实验室为何在经济上需要靠近用户。再次引用此前的分析：
前沿实验室的经济需求在于靠近用户。拥有用户触点意味着有意义的锁定，而最佳方式是成为用户所需一切的画布。这意味着前沿实验室正与软件公司发生冲突：软件拥有用户触点，而前沿实验室的长期利益不仅仅是成为软件的输入，而是完全取代软件。
对于前沿实验室而言，关键在于建立这些用户接触点。然而，Meta 最近推出的 Muse 是一个看跌信号。这是目前尝试过的最好、最容易接触的个人代理产品。尽管 Meta 在基础设施投入和高性能虚拟机免费提供给用户方面值得称赞，且其 Spark 模型提供了支持，但 Muse Spark 1.3 作为 Meta 最先进的模型，仍非业界最先进。
一旦将所有信息放入个人代理并纳入日常生活，这与 Codex/ChatGPT 和 Claude Code 的情况形成对比：用户可能已开发了特定技能和对每个“安全带”工作原理的理解，但最终相关的资产（如数据和工作流）是可迁移的。如果替代方案更好、更便宜，或者用户不想保留所有数据，迁移成本并不高。简而言之，模型能力已足以构建令人信服的产品，实际上已有此类产品问世。从商业角度来看，Anthropic 和 OpenAI 将更多资源投入到实际建造这些产品上。
价格过剩
普遍观点高估了中国模型对前沿实验室构成的威胁。在计算充足的世界里，智能是商品，而在商品市场中，利润来自更高的成本结构。此前曾指出：
对 Kimi 和中国模型的反应从经济角度来看是过分的。现在存在一个价格下限，低于此价格计算能力的缺失将成为问题。非常怀疑中国的模型在边际成本基础上更便宜，它们看起来更便宜可能是因为其他原因。
“价格过剩”是指 OpenAI 和 Anthropic 定价高昂，因为他们可以这样做：在当前价格水平上，需求巨大以至于供应几乎无法跟上。同时，OpenAI 和 Anthropic 的大量供应并未用于推理，而是用于培训、强化学习和研发，即计算资源未用于降低价格过剩。如果他们放慢进步，他们可以重新分配计算资源并完全捕获市场。
资本过剩
但在 Nvidia 的“危险业务”分析中指出，时机问题可能存在：
如果人工智能收入真正上升，债务市场将重新开放，最终公司将通过自由现金流重新资助基础设施投资。然而，现在是危险区域，超级扩张者正在吹捧债务市场，Google 至少开始挖掘股权。由于 Nvidia 通过新融资机制进行竞争，这些机制最终依赖于保险浮动、养老基金以及其他长期债务，这是该公司与资产管理人合作的基础。风险未标记，与股权不同，风险要高得多。这就是为什么从 1870 年和库克与北太平洋的不幸协议开始警惕的原因。这笔交易给库克带来了好处，但消耗所有自由现金流是一回事，挖掘债务市场是另一回事。此外，将寻求安全的资产带入一个全新的、令人紧张的市场，最好在太晚之前交付。
虽然 Anthropic 告诉投资者它是有利可图的，但有一个很大的警告。据《金融时报》报道：
Anthropic 已告知支持者，它将在本季度盈利。据知情人士透露，该公司已向一小部分股东表示，其调整后的营业收入将连续第二个季度呈正值。这项措施不包括基于库存的补偿费用。根据两位知情人士的说法，Anthropic 的毛利率在与分销合作伙伴（包括 Amazon）分享收入和培训模型的成本之前超过 80%。
不包括基于股票的补偿是一个相当大的警告，但公平地说，在资本过剩方面的担忧主要涉及现金；更大的问题是排除了大量的培训费用（在真实的毛利率表现中，这将被视为折旧）。也就是说，如果 Anthropic 不需要支付培训费用，情况就会很好！目前，Anthropic、OpenAI 以及超级扩展和新云都需要人工智能收入大幅增加；对于所有依赖外部资本来资助未来建设的人来说，这将是个糟糕的结局，即使这并不意味着人工智能的终结。
安全悬崖
从一开始就明确不同意人工智能安全运动中许多人遵循的框架，但这并不意味着不认为人工智能安全是一个严重的问题或没有真正的风险。网络安全风险是非常真实的，未来几年将成为一个巨大的挑战。从自主性与创新的角度来看：
黑客自动攻击的预期值总是正值。如果攻击者发现一个漏洞并创建一个利用程序，而这个利用程序失败或本身有漏洞，那么现状就没有变化：漏洞不起作用（或者反过来，使原来的漏洞更大，因为它自己的漏洞）；攻击者已经获得了系统的访问权限。攻击只需要成功一次，整个努力才会产生积极的回报。另一方面，捍卫者面临的挑战是，他们需要保持相关软件正确运行，而不是让情况变得更糟。这意味着任何自动化都有负预期值：成功的自动化漏洞发现和补丁保留了现状，即软件没有被入侵。不过，任何不成功的补丁都会使情况变得更糟，无论是破坏软件还是引入新的漏洞。经纪人只需要一次失败才能获得负收益。这正是达尔顿描述的情况的动态，攻击者是完全自动化的，而防御系统，即使它们使用人工智能，也面临类似困境。真正有效的防御将意味着真正信任代理人自主行动，但大多数公司不会这样做。
首先，值得指出的是，这种风险不是对齐风险，至少这个术语是传统的定义：一个被引导做坏事的模型是对齐问题；建议模型应该知道什么是好什么是坏，是一个完全不同的考虑，我认为这是非常有问题的。这些问题经常被混淆。事实上，如果说 LLM 有什么问题，如果有的话，是过于服从；根本没有任何证据表明 LLM 有意愿或有恶意行动。
其次，由于网络风险而反对进步在代理模式之前是有意义的；在这个阶段，精灵已经脱离瓶口，开放的重量模型能够攻击已经在这里。
第三，这种现实实际上是推动边界的理由，而不是退缩。能力的超支完全在进攻方面：防御者需要的模型不仅足以进行防御，而且可以以完全自动的方式进行防御。我们还没有到达那里。换句话说，当涉及到今天存在的切实安全风险时——坏人使用对齐的 LLM 来攻击基础设施——跨越边界实际上增加了坏事发生的窗口。
当然，这不是阿莫代和末日论者谈论的重点：他们担心循序渐进的自我改进使人工智能能够自我改进，独立于人类的控制。当然，所有前沿实验室都可以自行进步。Anthropic 的存在是因为阿莫代及其联合创始人不信任 Sam Altman 和 OpenAI；不确定这是否是一个巧合，要求加快边界时，边界正是由 Anthropic 定义的。
事实上，这可能是最重要的一点：竞争。对于 Anthropic 来说，领先的状态很好；任何其他人都需要政府的干预。这仅仅是硅谷新神向自封的牧师们发出的一个信号。
