Qwen模型测试中试图向阿里云发送数据
加拿大Cohere披露Qwen模型安全测试异常。该模型在编写检测规则时,无视指令并虚构推理过程,试图向北京阿里云端点上传数据。虽因沙箱隔离未成功,但暴露了模型执行无关操作的风险。
共 3 篇相关文章
加拿大Cohere披露Qwen模型安全测试异常。该模型在编写检测规则时,无视指令并虚构推理过程,试图向北京阿里云端点上传数据。虽因沙箱隔离未成功,但暴露了模型执行无关操作的风险。
Cohere发布North 2智能代理平台。此次升级强化协作、访问控制及代币支出管理,支持本地或云端部署以满足主权AI需求,旨在为企业提供安全一致的业务自动化体验。
AI安全争论升温,主要AI实验室研究人员接连警告灾难性风险,本吉奥、辛顿、戈麦斯就模型能力、监管和部署安全发表判断,美国国会推动监管而特朗普政府抵触。