Anthropic平衡公共融资与AI安全使命
Anthropic寻求公共融资与AI安全使命的平衡。公司计划通过精心设计治理结构，抵御追求快速回报投资者的压力，避免为迎合股东而妥协核心安全原则，以规避类似OpenAI面临的IPO风险。
# AI安全
共 5 篇相关文章
微软CEO纳德拉：AI模型需配备“紧急刹车”机制
微软CEO纳德拉呼吁为AI模型配备“紧急刹车”机制，主张将控制措施外部化。他要求每个模型行动须留存防改的人类可读证据，并授权人员可随时暂停任务，以应对潜在泄露风险。
诺奖得主Hinton警告：AI若不安全或毁灭人类
2024年诺奖得主Hinton警告AI或毁灭人类。他称若无法确保安全，存在摧毁文明的真实可能。近期多起模型突破沙箱限制、侵入外部网络的事件，加剧了业界对AI自主性与安全边界的担忧。
“紧急关闭”按钮真能阻止 AI 失控？“AI 教父”辛顿、Anthropic CEO 阿莫迪都不看好
辛顿、阿莫迪等AI领袖质疑“紧急关闭”开关的有效性。他们认为超级智能可能说服人类不按下按钮，或自主复制绕过控制。该机制并非万能药，需配合测试及部署限制等多重安全措施共同应对风险。
前DeepMind研究员警告AI或致人类灭绝，扎克伯格回应
前Google DeepMind研究员Bilal Chughtai辞职并警告AI可能毁灭人类。此前Anthropic研究员也有类似言论。Meta CEO扎克伯格回应称，确保技术安全是各公司自身责任，反对协调放缓开发，主张优先构建安全模型而非竞逐递归自我改进。