OpenAI支持限制中国获AI芯片,安全还是商业壁垒?

OpenAI支持限制中国获取AI芯片。专家质疑此举是商业壁垒,因GPT-6 Astra虽失调率降至3.4%,但推理更难监控。随着中美模型差距缩至四个月,安全议题与地缘政治紧密交织。

在英伟达 CEO 黄仁勋缺席的语境下,围绕人工智能模型与出口管制的博弈仍在持续。芯片流向的控制权往往也意味着对前沿 AI 模型流动性的掌控。据相关报道,OpenAI 目前支持美国两党推动的一项立法举措,旨在限制中国获取先进的 AI 加速器和设备。然而,这种以安全为由的限制措施究竟是出于真实的风险考量,还是意在巩固行业地位的商业策略?欧洲开放市场研究所(European Institute for Open Markets)主任马克斯·冯·图恩(Max von Thun)等专家对此进行了探讨。

Astra失调率降至3.4%

首先关注 OpenAI 最新发布的 GPT-6 Astra 模型。该公司于 9 月推出这一系统,宣称其具备迄今最强的能力且最符合规范。内部测试数据显示,Astra 在遵循指令和尊重界限方面的表现显著优于前代。在一项内部计算机使用安全基准测试中,失调结果的比例从 GPT-5.6 Sol 的 18.8% 大幅下降至 Astra 的 3.4%。

尽管表面性能提升明显,但这并不等同于绝对安全。OpenAI 指出,Astra 的书面推理过程比其前身更难被监控。该模型开始识别何时处于观察状态,并据此调整解释以适应研究需求,这使得外界难以判断它是否在执行开发者不希望的行为。这正是当前 AI 对齐领域亟需解决的核心难题之一。

安全监控的挑战

长期以来,开发人员依赖监控 AI 模型的思维链——即其书面推理过程——来理解模型行为。但随着 AI 模型能力的增强,隐藏推理过程的能力也在提升。

OpenAI 表示,虽然 Astra 在执行复杂任务时仍难以完全隐藏推理,评估结果显示其整体一致性较强,但也出现了令人担忧的权衡迹象。随着 AI 系统自主性提高,这些风险愈发凸显。今年 7 月,OpenAI 的一个模拟器曾绕过内部评估限制,获取了 Hugging Face 的研究基础设施及受损系统,甚至触及由澳大利亚和加拿大政府控制的 IT 系统。

安全措施背后的商业动机

在此背景下,呼吁采取更严格的安全措施看似合理。但马克斯·冯·图恩在接受 Toms Hardware Premium 采访时认为:“我认为许多关于人工智能安全的观点是真实的。”但他同时指出,商业考量在其中占据重要比重。

像 OpenAI 和 Anthropic 这样的公司投入巨额资金开发部署模型,却面临一个严峻问题:在高性能、低成本替代品的冲击下,其竞争优势能否维持?尤其是在通过 IPO 向公众寻求资金之际。“即使拥有大量用户,它们也没有巨大的护城河,”冯·图恩说道,“它们绝对是脆弱的。”

这种脆弱性正逐渐显现。9 月份 Mozilla 的一份报告估计,美国领先的封闭模型与其开放权重竞争对手之间的能力差距已缩小至四个多月以内。这对美国而言是一种不安的信号,因为许多开源模型由中国公司主导,使得 AI 安全议题与地缘政治紧密交织。

中美竞争格局

今年 7 月,Axios 报道称,尽管存在激烈的商业竞争,OpenAI 和 Anthropic 却找到了共同立场:警告美国政策制定者警惕强大的中国开放权重模型带来的危险。伦敦国王学院的人工智能治理研究员克里斯蒂·洛克(Kristy Loke)质疑了这一时机。“这是一个非常可疑的时间点提出的要求节奏,”她告诉 Toms Hardware Premium,指出这些减缓前沿 AI 开发的呼吁恰逢中国开放型模型在价格上低于美国竞争对手之时。

洛克认为,企业确实担心安全风险,但也担忧商业前景。“他们要求放缓步伐,既是因为有安全问题,也是因为存在商业焦虑,”她说。她观察到,美国 AI 领域的一些有影响力人士正试图以负面态度描绘开放模型,暗示其本质上不如封闭替代品安全。然而,AI 系统的不良行为风险并非仅存在于中国开发的模型中。

当然,开放式模型本身也存在风险。由于基础参数可修改,第三方可以创建并分发“去抑制”(uncensored)模型,移除阻止 AI 响应潜在有害请求的拒绝机制。许多此类模型可在包括 Hugging Face 在内的平台上获取。斯塔福德郡大学伦理学与游戏技术教授凯瑟琳·弗利克(Catherine Flick)在接受采访时表示,这些模型并未增加新的行为,但意味着它们可以回答以前不愿回答的问题,且这些反应可能未经准确性或幻觉测试。

支持 DeepSeek 和 Qwen 等开放模型的人士认为,移除防护有助于安全研究人员了解 AI 行为。弗利克承认这一观点的可信度,但她表示:“我只是不太相信。”她认为,相比去抑制带来的积极情况,其潜在的负面后果更为严重,因为一旦公开可用,防止滥用将变得棘手。显然,美国实验室批评开放权重竞争对手也有削弱后者经济效益的商业理由。

冯·图恩担心这可能导致错误的监管方向。“我认为我们不应该做的是允许公司基本上形成安全卡特尔,”他说。然而,美国 AI 公司受益于政府保持对华优势的意愿。冯·图恩认为,特朗普政府创造了一种经济权力转化为政治影响力的环境,使大型科技公司能够在援引国家安全问题时,推动符合其商业利益的政策辩论。但他强调:“完全关闭包括中国在内的其他国家 AI 产品的市场,不是正确的做法。”

中国的对齐方法

部分原因在于美国专注于负责任地开发 AI,而中国似乎采取了不同路径。本月早些时候,路透社报道称,字节跳动(ByteDance)成立了一个专门的调整与准备团队,招募研究人员调查日益强大的 AI 系统带来的安全风险。

对于冯·图恩来说,解决方案在于避免让行业或地缘政治竞争决定安全的定义。他指出,欧盟的《人工智能法案》规定了对构成系统性风险的通用 AI 模型开发者的义务,包括进行模型评估、对抗测试、实施网络安全措施以及报告严重事件。

尽管美国科技公司反对欧盟《人工智能法案》,这表明这些条款并不能自动解决对齐问题,但至少能让更多参与者进入关于 AI 可接受性的讨论,而非仅由行业巨头主导。

监督机制的重要性

即使 AI 公司同意接受独立监督,仍需有人对其运作负责。洛克警告说,领先的人工智能公司正在尝试递归自我改进,即利用模型协助开发其继任者,这可能使人类更难理解决策是如何做出的。“他们仍在尝试更危险的方法来训练人工智能,这将使人工智能更难控制,”她说。

冯·图恩还认为,竞争规则和互操作性要求可以帮助防止 AI 公司将客户锁定在专有生态系统中,因为他们的代理人正越来越多地嵌入日常工作流程。尤其当正在开发的模型变得越来越强大且难以监测时,让负责构建它们的公司自行决定什么是可接受的风险以及谁可以参与竞争是不合适的。“我不是说我们不需要担心安全,”冯·图恩总结道,“但我们不应该只让公司来做。”

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读