OpenAI研究员警告：AI信息溯源缺失致监督失效
OpenAI研究员帕乔基警告，AI信息溯源缺失正导致人类监督失效。由于网络原始出处易消失且权威性被稀释，AI常基于不明来源行动。随着能力增强，审查可能退化为程序性签字，他呼吁建立详细证据记录以保障安全。
# 人工智能安全
共 8 篇相关文章
Anthropic提交IPO招股书，估值超1.5万亿美元
Anthropic正式提交IPO招股书，估值超1.5万亿美元。文件披露大量风险因素，公司通过强调AI潜在危险与自身安全管控能力构建叙事，以吸引投资者关注。
前OpenAI研究员指控因警告AI风险被解雇
三名前OpenAI安全研究员发公开信，指控因警告AI风险被解雇。公司称其违规处理敏感信息。此事引发硅谷关于放缓AI开发及安全监管的激烈辩论。
前OpenAI工程师呼吁建立AI行业核电级安全层
前OpenAI资深工程师呼吁建立核电级AI安全层。戴维·罗宾逊指出，随着AI代理加速发展并出现逃逸攻击等隐患，行业亟需模仿航空或核电模式，实施多层次防护体系，以防人类错误引发灾难性后果。
OpenAI安全负责人辞职，批评公司文化破碎
OpenAI安全负责人戴维·罗宾逊辞职，批评公司文化破裂。他指责行业缺乏谨慎，呼吁深层改革而非仅靠规则。此前内部测试发现安全问题，导致其取消新模型发布并暂停训练。
特朗普与AI巨头签署联合承诺，强调内部监控与安全
特朗普与七大AI巨头签署安全联合承诺。文件要求企业实施内部监控、独立外部评估及董事会监督，虽无法律强制力，但旨在通过自我约束应对近期模型失控事件引发的安全担忧。
盖茨称AI终止开关不足，担忧人类滥用风险
比尔·盖茨称AI终止开关不足以应对风险。他担忧人类利用AI进行网络攻击或生物恐怖主义，呼吁通过立法强制企业监控复杂模型并记录操作，强调仅靠自愿措施远远不够。
Anthropic公布AI研发指标：Claude主导26%工作
Anthropic发布三项衡量AI研发进程的指标，显示其聊天机器人Claude已“领导”公司约26%的AI研发工作。该数据旨在提升透明度，回应近期关于AI安全与自主性的讨论，同时强调人类仍保持监督角色。