Anthropic AI安全警告引争议,艾斯曼质疑动机

Anthropic对齐科学负责人称AI毁灭人类概率超10%,引发争议。Coxon辞职,达里奥呼吁放缓,马斯克与奥尔特曼支持。艾斯曼认为警告源于商业压力,伯里也质疑动机。

人工智能安全担忧正在业界持续发酵。Anthropic对齐科学负责人Evan Hubinger公开表示,人工智能"毁灭全人类"的概率超过10%。不过,曾成功预判次贷危机、作为电影《大空头》原型人物之一的史蒂夫·艾斯曼(Steve Eisman)对此给出了截然不同的解读:他认为这些"末日预言"背后另有动机。

这场舆论风暴始于Anthropic研究员Jacob Coxon的辞职。先后任职于Anthropic与OpenAI的Coxon上周宣布离职,并在X网站上发帖称,他辞职是因为担心这两家公司是在"拿我们的生命做赌注"。他表示,开发人工智能的人"真心相信,到本十年末(2030年),人工智能可能会毁灭我们所有人"。

争议在上周末进一步升级。Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)上周六发表长篇博文,呼吁业界放慢脚步,并表示这项工作需要行业和全球的协调配合。埃隆·马斯克随后发文称"达里奥说得对",并补充说自己"长期以来一直在对人工智能发出警告"。OpenAI首席执行官萨姆·奥尔特曼也很快回应,表示同意阿莫代伊关于"我们需要放缓前沿AI发展的步伐"的观点。

在艾斯曼看来,顶级人工智能实验室的恐慌性呼吁并非出于安全考量,而是源于商业压力。他告诉媒体:"他们意识到自己的业务没有任何护城河,所以试图制造危机。我认为这就是事情的真相。"

艾斯曼认为,科技公司"有动机"宣扬技术可能毁灭世界。他们希望借危机推动监管,进而操纵监管规则,形成双头垄断,以此替代原本不存在的业务护城河。他直言:"代币最大化时代已经结束了,开放权重模型正在占据很大的市场份额。我认为这些公司现在非常紧张。"

持类似判断的并非只有他一人。Citadel Securities近期表示,成本上升给人工智能交易敲响了警钟,使其增长势头有所放缓。

值得注意的是,艾斯曼本人近期已减持人工智能领域投资。几周前他曾表示,OpenAI和Anthropic是人工智能行业的"阿喀琉斯之踵"——整个行业对这两家领先初创公司的成功依赖过度,"它们在整个产业链中占比巨大,所以如果这两家公司中的任何一家出现问题,整个产业链都会彻底崩溃",而相比之下,OpenAI实力较弱。

对于巨头的安全呼吁,艾斯曼的回应颇为直接:"当你们说我们应该放慢脚步,因为情况很危险时,我的回应是'真的吗?那就推迟你们的IPO吧'。说到做到。有人在谈论推迟IPO或推迟融资吗?我什么都没听到。"

知名做空投资人迈克尔·伯里(Michael Burry)此前也发表过类似观点。他认为,OpenAI、Anthropic和其他大型人工智能公司推动放缓发展,可能会压制快速成长的竞争对手,从而使现有企业受益。他还质疑这一论点的基本前提,认为大型语言模型并非通用人工智能,因此"根本不存在什么需要被放缓发展的AI"。

伯里同时表示,谈论人工智能的危险有助于公司在准备上市时维持投资者热情,这种推动放慢节奏的行为是"自私自利的"。

背景资料显示,艾斯曼曾是纽伯格伯曼集团(Neuberger Berman)的高级投资组合经理,在全球金融危机爆发前做空次级抵押贷款一战成名,也是电影《大空头》的原型人物之一。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读