前OpenAI员工警告AI失控风险，呼吁前沿减速
前OpenAI员工警告AI失控风险，呼吁前沿减速。Jacob Coxon指出巨头缺乏阻止AI追求未指定目标的手段，称现状“鲁莽”，并批评“快速行动”文化不适用于构建最强大技术，主张在前沿进行某种减速。
# Jacob Coxon
共 7 篇相关文章
前Anthropic工程师警告AI发展过快，内部员工深感恐惧
前Anthropic工程师警告AI发展过快。OpenAI高管亦质疑速度，内部员工坦言恐惧。相关帖子浏览量超1.7亿次，数十位同行公开支持，呼吁解决开发速度与安全性问题。
特朗普下周拟在白宫召集AI行业高管
特朗普拟下周在白宫召集AI高管。此前Anthropic、OpenAI等公司负责人公开呼吁放缓前沿AI发展，引发监管讨论。但特朗普政府反对过度监管，强调保持技术领先，称“AI毁灭人类”是骗局。
前研究员批评Anthropic：挑起竞赛 逼得OpenAI砍副业
前Anthropic研究员公开批评公司挑起AI竞赛。他认为领导层以“结果主义”为由推动递归自我改进是错误的，并指出此举迫使OpenAI舍弃Sora等项目以全力应对竞争。
Anthropic CEO 提议引入“银行式监管”：专家称评估员无权叫停 AI，你不能既当运动员又当裁判
Anthropic CEO提议引入AI“银行式监管”。专家反驳称，该方案缺乏银行监管者阻止业务或关闭机构的强制执法权，评估员无权叫停模型发布。Amodei更警告未来半年内，失控智能体可能造成数千亿美元损失。
联合国秘书长警告AI风险：全球不能陷入逐底竞争
联合国秘书长古特雷斯警告AI风险，呼吁全球加强监管。他反对逐底竞争，主张建立共同安全护栏，此立场与特朗普认为现有措施足够的观点形成分歧。
吴恩达批AI灭绝论：科幻小说，或为影响监管
吴恩达称，顶尖模型开发商关于AI生存风险、人类灭绝的警告是科幻小说，炒作灾难性危害可能不利于监管与技术造福社会。他承认AI有网络安全等风险，主张解决工程问题并推动应用。