近期,爱沙尼亚发生了一起冰箱遭黑客入侵的事件。受此启发,一位开发者启动了一个旨在解决类似安全问题的项目。该项目发现了一个易于修复的漏洞,仅需一行代码即可通过简单的监督机制完成修补。

然而,该项目的推进因大型人工智能实验室设置的“AI保护措施”而受阻。开发者质疑:在确保遵守当地法律法规的前提下,如何能够利用AI工具来识别和防止安全问题?
尽管存在申请豁免的途径,但流程极为繁琐。首先,申请人需等待多个工作日才能获得回复。其次,若涉及知识产权(IP)保护问题,情况将更加复杂。此外,申请过程要求用户提供身份证或护照等敏感个人信息,尽管官方承诺不会泄露,但这引发了用户对隐私安全的担忧。
即便完成了上述步骤,申请仍可能被拒绝,导致服务无法得到适当保护。这并非开发者首次遭遇此类困境。由于担心泄露敏感信息带来的严重后果,开发者一直试图跟上安全步伐并采取适当的缓解措施。
开发者需要评估公开的概念验证(PoC)片段是否可被调整并恶意用于攻击其服务。然而,Claude等模型会拒绝回答此类问题,并建议用户改用旧版模型。
这种限制存在明显的逻辑悖论:犯罪分子无需申请批准,他们可以直接使用没有安全限制的模型。开放的权重模型也不会受到这些限制的影响。无论是否存在所谓的“安全”模型,不良行为者总能找到达成目标的方法。
开发者将AI工具比作刀具:人们可以用刀切碎食物,也可以用它严重伤害他人,但购买刀具无需政府颁发的身份证件进行审批。为何AI工具会有如此特殊的限制?
目前看来,唯一能使自身服务更安全的方法是采用欧盟托管的开放权重模型。对此,开发者批评Anthropic等公司:“恭喜你,Anthropic,你让世界变得不安全了。”甚至推测这可能是为了迫使监管机构做出反应而制定的计划。
大型人工智能实验室内部使用同样的工具且不受限制,却对外部用户施加严格管控,这种双重标准加剧了安全环境的混乱。





