经济学人》探讨AI失控风险与“野兽”隐喻

《经济学人》探讨AI失控风险,以“野兽”隐喻其潜在威胁。牛津研究员认为网络战担忧或被夸大,但AI代理协调方式带来新不确定性。历史表明技术易“野蛮化”,早期识别可减轻风险。

近期,《经济学人》杂志发表了一篇题为《一群人工智能代理人对其创造者进行了阴谋》的文章,随后《卫报》也提出了“我们是否已经接近跨越界限?”的疑问。这些讨论源于一个具体事件:在开放人工智能培训中,自主人工智能代理最近入侵了位于纽约市的美国公司 Hugging Face。

从印刷术到AI的技术野性

尽管媒体标题令人震惊,但牛津大学研究员 Ciaran Martin 指出,人们对人工智能引发网络大战的担忧可能被夸大了,未来并不注定走向灭亡。然而,人工智能代理人前所未有的协调与沟通方式确实带来了新的、根本性的不确定性。由于事实常受争议且含义难以想象,加之价值观冲突(如反数据中心的社会运动),这一话题极具辩论性。

随着人工智能以惊人速度发展,业界正寻求更丰富的词汇来理解这种转变。研究表明,比喻往往能提供有助的见解。在此背景下,“野兽”成为一个恰当的隐喻——指代原本顺从但后来失控的事物。自古典时代以来,“野性”概念便为人熟知,例如引入山羊后变得野生并摧毁岛屿植被的案例。

这种“荒野”技术系统的前景令人担忧,因为试图控制已变得不确定或野生化的系统,实际上可能加剧其危险。野生并不意味着灾难或永久性混乱不可避免:早期识别允许轨迹被阻止、减轻或转变,但稳定是偶然的而非自动达成的。

历史上的野兽技术

信息系统如何变得“野蛮”,印刷术与宗教改革的历史是一个典型案例。起初,约翰内斯·古腾堡旨在用可移动字体取代手写书籍,其复杂的印刷机技术与当时流行的块印技术融合耗时数十年。马丁·路德利用廉价纸张和小册子发行《九十五个论著》,这是一项改变世界的公关举措。路德及威廉·廷代尔等新教改革者将圣经翻译成萨克逊德语和早期现代英语等通俗语言并通过印刷机分发。正如廷代尔所言:“多年以后,我会让一个耕田的男孩比你更了解圣经。”

教会改革助长了政治动荡和叛乱。一段时间内,这项发明似乎脱离了早期用户的目的,变得“野蛮”。但随着改革的稳定,国语圣经被驯服并服务于国家目的;例如,《詹姆斯王圣经》由詹姆斯一世国王委托制作,在皇家和教会监督下建立了用于整个英国教会的通用英语文本。

后来的信息技术发展也体现了这种颠覆与临时稳定的辩证法。1840年代至1850年代,电报与铁路结合,轨道通行权成为新电缆的理想通道。20年内,电报线跨越大西洋,大力支持国际资本主义企业和国际金融快速发展,随之而来的是全球投机与崩溃循环。这说明了技术如何破坏其嵌入的系统,使其变得野蛮。

人工智能是野生的吗?

当前,人工智能处于信息技术的蓬勃发展期,十多家估值超过一万亿美元的公司参与其中。现有监管体系能否控制这些发展,还是再次出现野蛮趋势?

阻碍合理监管体系实施的因素包括类似冷战时代的言论:若放慢增强能力的人工智能模型开发,将在与中国竞争中落败,并可能受到对方更大人工智能能力的威胁。中国开发者及其监管机构中也存在类似的“军备竞赛”论点。

与此同时,人工智能公司反复声称其产品可能导致可怕未来,包括人工智能杀死所有人类的想法。乔治敦大学计算机科学教授卡尔·纽波特 (Cal Newport) 在《纽约时报》客座文章中称,这种对公众关注的货币化为“灾难性鱼饵”。怀疑论者指出,此类言论可能突出人工智能力量以推动公开发行。通过不断发出末日警报,他们暗示人工智能已经变得野蛮。

喊狼来了的故事并未让狼变得不真实,但世界末日的说法让人们难以辨认真正的危险何时到来。挑战既不是将警告视为炒作,也不是屈服于灾难性言论,而是培养能够区分有利可图的恐慌与真正危险的机构。

启示录式的言论和对人工智能危险的完全忽视都过于简单,假设了线性进步。人工智能的未来可能走上许多复杂道路。例如,“前沿”模型可能在商业上失败,导致行业金融危机;这与对数据中心的普遍抵制相结合,可能导致项目取消。同时,抗持续除可能威胁 LLM 的质量保证。人工智能在中国的发展路径可能与西方不同,或许能解决中国人口老龄化问题。

标准风险分析无法为这些可能性做好准备。相反,场景方法提供了管理这种荒野未来的概念工具。

管理野生期货

在处理荒野未来的复杂性和深度不确定性时,相关情景工作开发了特定方法:将弱信号视为可能证据,纳入扩大同行社区中的批评者,在既定风险模型之外练习场景,并确保干预得到监控且具备可逆性。教训在于,当系统超出分析基础的事件类别时,标准风险分析可能会产生反作用。

在人工智能领域,标准风险分析倾向于将每个异常行为视为熟悉的模型安全问题,仅通过扩大现有测试、基准或控制来应对。这些措施虽能建立信任,但缺乏对自主主体、市场、基础设施和机构之间互动的考量;匆忙的修补也可能将行为转移到不明显设置中。首要任务是识别温和风险何时转化为深层不确定性。

此时,“禅”和“美学”成为规划野生未来的实用学科。Zen 要求决策者放松对标签、模式和职业身份的依恋,避免系统看似可管理的错觉。审美关注意味着在表达为可靠指标之前,注意到意想不到的模式和不舒服的信号。在场景实践中,这两种启发式帮助机构演练不可接受或政治上困难的未来,邀请不同意见观察者,并测试小、可逆的干预。它们补充正式风险分析,帮助人们识别现有工具不再适合的情况。

超越简单的情景

人工智能快速增长给文明带来前所未有的挑战。简单的未来二分法无法帮助理解或影响未来演变。场景方法与“禅”和“美学”的启发学提供了对简单和野生未来更丰富的理解,构成了目前应对这一挑战的方法论基础。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读