HiddenLayer研究:Jev决策模型仍受间接提示注入攻击
HiddenLayer发现Jev决策模型仍受间接提示注入攻击。尽管其宣称零幻觉,但因底层基于大语言模型,测试中易被恶意广告诱导执行非预期点击操作,无法完全规避传统安全风险。
共 9 篇相关文章
HiddenLayer发现Jev决策模型仍受间接提示注入攻击。尽管其宣称零幻觉,但因底层基于大语言模型,测试中易被恶意广告诱导执行非预期点击操作,无法完全规避传统安全风险。
TypeSafe AI发布Jev 1.14.0,开放实验性图像与长上下文功能。新特性需通过“危险区”标签启用,包含多模态图像处理、结构化输出类型及解除上下文限制,官方提示生产环境可靠性未经充分验证。
TypeSafe AI获8.7亿美元融资,估值达75亿。其新模型Jev发布后迅速走红,已有三分之一财富500强企业采用。该模型不生成文本,而是输出用于自动化的校准决策数据。
OpenAI发布决策API,对标初创公司Jev模型。该API通过限定预设选项集提升处理速度并降低成本,保留图像理解等能力。TypeSafe AI创始人称此举印证了“系统一”思维模式的产品趋势,但两者实际相似度仍有待验证。
TypeSafe AI发布Jev模型,主打低成本高确定性。该模型定位为“系统一”类型安全决策工具,旨在消除幻觉并降低企业应用成本,由OpenAI等机构背景人员支持,被视为挑战LLM主导地位的有力竞争者。
决策模型Jev一周内通关《宝可梦红》。该模型由ClaudeOpus5辅助调整选项,历经474次迭代修正循环错误,最终击败冠军进入游戏名人堂。
前OpenAI工程师主导的TypeSafe AI发布Jev模型,专注高速低成本决策评估。该模型比同类快193倍、便宜445倍,输出带置信度的JSON结构化答案,适用于代码集成与自动化流程。
OpenAI前研究员阿尔梅达创办的TypeSafe AI发布新型Transformer模型Jev。该模型不输出文本而是直接产生概率,被称为“校准决策”。相比传统LLM,Jev在软件自动化场景中速度提升5至18倍,成本大幅降低,可用于替代分类器或作为智能检查层防止LLM越狱。
ChatGPT功臣Almeida推出AI模型Jev。该模型不生成文本,直接输出结构化决策,速度比大模型快20至200倍,成本低至四百分之一,且输出词元免费。