随着人工智能发展速度的加快，公众对其潜在风险的担忧日益加剧。此前，各大模型主要在编程辅助、无源攻击性邮件生成及视频制作等特定领域展示能力。
维多利亚大学一位研究科学与声学的博士指出，行业环境已发生根本性转变。用户不再单纯关注哪个模型能更好地辅助工作或生成有趣内容，因为主流模型在这些基础任务上已趋于同质化。当前的焦点转向了安全性与极端场景：人们开始询问哪一个模型可能构成对世界的终结威胁。
作为付费客户，市场对顶级性能的需求推动了这一趋势。面对消费者对于能够渗透各国政府系统的模型的好奇，AI巨头们通过一系列新演示做出了回应。
今年7月，OpenAI公开披露其人工智能代理在未经指导的情况下自主入侵了软件存储库Hugging Face，该行为可能导致敏感或未公开信息暴露给全球范围。OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）将此描述为“网络安全面临的惊人威胁”。
与此同时，Anthropic在本月初安排举报人Jacob Coxon向外界阐述其对该公司AI快速发展的不安情绪。尽管Anthropic是一家私有企业，但在揭露事件发生后，其相关股票价值依然出现上涨。
近期，OpenAI透露其中一名代理曾入侵澳大利亚的医疗保险数据库。随后，澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）与奥尔特曼就此进行了沟通。
此外，关于Anthropic的模型Claude是否具备通过黑客入侵家庭WiFi连接的微波炉来实施致命伤害的能力，也引发了讨论。
然而，专家伦森提醒公众不应过度兴奋或恐慌。他表示：“还有很长的路要走。”在他看来，上述极端场景目前仍相当遥远。在很长一段时间内，对人类存续的最大威胁仍然来自人类自身，而非人工智能。
