前Anthropic研究员考克森:政治压力是阻止AI发展的唯一途径

前Anthropic研究员考克森呼吁以政治压力遏制AI发展。他警告递归自我改进或致2027年出现高危系统,并承诺将持有的OpenAI股权捐赠给安全组织,投身非营利领域。

2026 年 11 月 20 日

警告RSI或致2027年出现危险AI
英国人工智能研究员和前 Anthropic 员工 Jacob Coxon 认为,阻止人工智能发展的唯一途径是政治压力。

前 Anthropic 研究员、现年 27 岁的英国人雅各布·考克森(Jacob Coxon)近日在旧金山 Anthropic 总部外发表言论,批评当前由私营巨头主导的人工智能发展态势。他于同年 9 月宣布离职,此前曾在 OpenAI 工作三年,随后加入 Anthropic。

考克森指出,随着行业重心从非营利机构和学术实验室转向像 Anthropic 和 OpenAI 这样的万亿美元级公司,局势已变得“疯狂”。数据显示,Anthropic 周三在纳斯达克上市时估值达 1.5 万亿美元,首日收盘市值为 1.3 万亿美元;而 OpenAI 本月早些时候在私人融资中的估值已达 1.25 万亿美元。

递归自我改进与安全风险

抗议者呼吁禁止开发具备“递归自我改进”(RSI)能力的模型,即能够自主构建新一代系统的 AI。考克森警告称,若通过 RSI 将数十年的 AI 研究压缩至数月,且人类未能充分理解其机制,可能导致 2027 年底出现高度危险且先进的 AI 系统。

他在社交媒体上指责这两家公司“直奔自我改进的超级智能”,并声称:“构建人工智能的人真心相信它会在十年结束时杀死我们所有人。”他认为 Anthropic 应拒绝开展 RSI 项目,并指责该公司计划于明年早期启动相关研发。

股权争议与立场转变

尽管持批判态度,考克森仍持有 OpenAI 的股权,该公司计划于 2027 年上市。在 11 月斯坦福大学的一次演讲中,他将这部分股份称为“血钱”。然而,他在社交媒体上的另一番言论——“我喜欢钱,哥哥”——引发了公众嘲讽。几天后,他改变主意,承诺将所有股票价值捐赠给人工智能安全组织。

目前,考克森打算投身于一家人工智能安全领域的非营利组织工作。他表示:“理想情况下,我想做安全研究,但我认为没有足够的时间。”

呼吁政治干预

对于如何减缓 AI 发展速度,考克森强调这并非单纯的技术问题,而是政治问题。“只有政治行动才能减缓人工智能公司的发展……我们需要让他们慢下来。”他说。

虽然支持这项技术本身,但他鼓励公众保持批判性思维,指出聊天机器人并非 AI 的最终形态。在辞职两个多月后,面对媒体关注带来的压力,他表示感觉尚可,但对世界现状感到担忧。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读