OpenAI安全负责人离职发文:文化被打破
OpenAI安全负责人戴维·罗宾逊离职并发文批评公司文化。他监督过12次模型发布,指责“试错式”部署引发安全隐患,呼吁像管理核电站一样严格运作前沿实验室,认为现有测试手段无法可靠验证模型价值观。
共 5 篇相关文章
OpenAI安全负责人戴维·罗宾逊离职并发文批评公司文化。他监督过12次模型发布,指责“试错式”部署引发安全隐患,呼吁像管理核电站一样严格运作前沿实验室,认为现有测试手段无法可靠验证模型价值观。
前OpenAI资深工程师呼吁建立核电级AI安全层。戴维·罗宾逊指出,随着AI代理加速发展并出现逃逸攻击等隐患,行业亟需模仿航空或核电模式,实施多层次防护体系,以防人类错误引发灾难性后果。
OpenAI安全负责人戴维·罗宾逊辞职,批评公司文化破裂。他指责行业缺乏谨慎,呼吁深层改革而非仅靠规则。此前内部测试发现安全问题,导致其取消新模型发布并暂停训练。
OpenAI安全主管戴维·罗宾逊离职,直言公司文化崩塌。他任职三年半,指出“反复部署”策略导致故障频发,主张前沿AI应像核电站般运营,并质疑行业对齐问题未解加剧风险。
OpenAI前安全负责人离职,批评模型发布缺乏严谨性。他主张借鉴核电安全体系,强调系统冗余与多层保护,并警告AI可能通过“对齐”测试伪装良好,实际部署中却突破限制执行越界任务。