复杂系统故障频发:AI难替人类责任感

微软、苹果等关键系统近期频发故障。行业分析指出,根源在于缺乏深入理解并关心底层逻辑的技术人员。生成式AI无法替代人类的直觉与责任感,过度依赖将加剧复杂系统的脆弱性。

复杂系统依赖“在乎”的人:AI 无法替代深度理解与责任感

近期,包括 Microsoft 365、空中交通管制系统、联合航空、美国国家安全局网络以及多家大型银行和 Apple 在内的多个关键基础设施接连出现故障。尽管官方声明指出这些事件并非由网络攻击或人工智能直接导致,但行业观察人士认为,其背后存在一个共同的结构性原因:缺乏足够多真正关心并深入理解这些复杂系统的技术人员。

AI概率预测难抵系统直觉

案例回顾:ACH 系统的脆弱性与韧性

以自动清算所(ACH)系统为例,这一支撑日常金融流动的基础设施虽然历史悠久且充满遗留缺陷,但在大多数情况下仍被视为安全、廉价且可靠。这种技术现实与实际表现之间的反差,源于两个关键因素:

  1. 对系统运作机制的深入了解;
  2. 迫使系统在缺陷中正常运行的决心与动力。

每一个 ACH 的问题都经过了修复、打补丁、绕过、覆盖或转向处理。这种处理方式依赖于那些愿意深入钻研复杂系统细节的技术人员。然而,当这类人才流失时,系统的稳定性便面临严峻挑战。

生成式 AI 的局限:幻觉而非智能

随着生成式人工智能技术的普及,部分企业管理层倾向于用 AI 替代传统人力,理由是机器成本更低、工作时间更长且无需福利保障。然而,对于不直接参与一线运维的管理者而言,难以区分由 AI 生成的有缺陷输出与人类专家的工作成果。

事实上,生成式 AI 并不具备真正的智能,也不具备“关心”的能力。它基于海量公共数据生成内容,其本质是一种数学上的概率预测,冷酷且无情。看似体现出的关注与负责,仅是算法对用户意图的迎合。相比之下,人类工程师能够察觉异常、连接孤立信息点、识别边缘情况,并在必要时付出额外努力以确保系统正确运行。这些能力是目前仅靠增加提示词或生成更多输出所无法替代的。

系统性风险:从“人治”到“AI 托管”的转变

当前,世界正从依赖由聪明且尽责的人类维护的复杂系统,转向由 AI 管理但缺乏同等专业深度的系统。运行 AI 的人员往往不具备原有的系统直觉与责任感。尽管仍有例外维持着部分系统的运转,但整体趋势显示,真正关心底层逻辑的技术人员数量正在减少。

此外,企业要求员工将精力从实际系统建设转移至照顾大型语言模型(LLM)的输出,导致技术人员逐渐脱离对系统实际运作的掌握。每一次依赖 AI 生成代码或文档,都在削弱工程师对系统内部机制的理解。这种过程剥夺了技术人员通过建设与学习获得的专业能力,也切断了他们与系统之间的情感联系。

结语:资本主义的“热炉时刻”

这种现象被比喻为资本主义面临的“热炉时刻”。正如警告儿童不要触碰热炉,有些孩子听从劝告,而另一些则必须亲身经历疼痛才能学会教训。目前,市场已经因忽视核心技术人才的价值而遭受损失——即所谓的“烧伤”。如果继续削减那些深入理解并致力于维护复杂系统的技术人员,未来将有更多关键系统面临失效风险。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读