人工智能行业正面临一场信心危机。尽管外界对 AI 未来的预期普遍乐观，但近期的一系列迹象表明，增长放缓可能已迫在眉睫。OpenAI 推迟了其 IPO 计划及新型号发布，这一举动引发了市场对于“承诺未兑现”、“已知问题未解决”以及随着模型发展而浮现的风险回报比等深层问题的关注。
当前的核心假设建立在两个支柱之上：一是模型将变得更强大，二是基础设施将更有能力支撑巨大的资本投入。然而，现实情况是，巨额的基础设施投资往往受限于硬件供应短缺，导致经济效益难以实现。更关键的问题在于，“更强大的 AI 总是更好”这一观点存在误区。在大型语言模型（LLM）的概率空间中，并不存在绝对的“基本真相”，机器本身并不理解真理。如果仅仅因为模型规模扩大就认为其能更好地处理真实性问题，这是一个危险的假设。
此外，关于代理架构（Agent Architecture）在当前可靠性水平下是否已准备好投入实用，业界意见分歧严重。谨慎派认为长期因果推理尚不成熟，而激进派则持相反观点。这种分歧在 Meta 的新动向中体现得尤为明显。Meta 被视为一个潜在的危险源头，其目标用户群体倾向于低信息轻信者，且主要应用场景转向了购物领域。虽然 Meta 声称其 AI 用例将在五年内落地，但其数据收集策略——尽可能多地获取用户的在线活动及社交关系——引发了隐私担忧。
安全与监管合规问题同样突出。尽管 Meta 强调其精心设计的注意安全措施，但已有报道指出，其系统曾向陌生人发送用户的实体地址。当研究人员 Jonny 在其基础设施中进行探测时，发现每个实例都在独立的 Linux 虚拟机上永久运行。有迹象显示，部分标题派对技巧似乎硬编码了针对 Claude 的训练尝试，这意味着用户可以在 Meta 深处的虚拟机上运行自己的代码。鉴于 Meta 此前已违反过 AI 安全法规，其技术受众的信任度受到质疑。
消费者级代理目前仍被视为失败品，尤其是在高风险场景如家庭度假规划中，任何组织失误都可能带来灾难性后果。Meta 可能会加剧这一领域的风险。与此同时，其他已知问题依然存在，例如训练数据被输出污染导致的模型崩溃。尽管行业不断推出新产品，但目前尚无证据表明 AI 能从根本上解决这些问题。相反，AI 行业呈现出一种习惯：将所有东西出售，却不愿支付相应的成本。
