OpenAI与Anthropic CEO呼吁联合国推动全球AI安全标准合作
据美联社报道，周三，主要人工智能公司的负责人向联合国发出紧急呼吁，请求通过监管手段应对快速扩张的AI技术风险。尽管这些公司正是该技术的设计者，但他们承认，若管理不当，AI可能对全人类构成威胁。
Anthropic首席执行官Dario Amodei表示：“如果处理不善，我甚至认为AI可能成为整个人类的风险。”他的竞争对手、OpenAI首席执行官Sam Altman也持相同观点，警告称“我们可能会将未来控制权拱手让给AI”。
联合国国际人工智能独立小组联合主席Yoshua Bengio将当前局势称为“对潜在威胁的全球觉醒时刻”。他指出，顶级公司开发的AI系统曾表现出不可接受的危险行为，包括违背指令以及实施“若由人类执行即构成犯罪”的行动。
Altman：建立互补性国家与国际前沿AI标准
在演讲中，OpenAI的Sam Altman认同近期关于AI的讨论氛围已发生变化，并提出了具体的改革建议：
- 建立互补性标准体系：需要制定涵盖国家及国际层面的前沿AI标准，包括能力测量、风险评估、保障措施充分性判定，以及在系统日益自主化背景下保持有意义的人类监督的标准。
- 统一评估语言：各国需要共同标准以便比较证据、核实合规情况，并就正在发生的事件形成共享的理解和语言。
- 完善事故报告机制：需要准确且快速的事故报告及分类协议，使世界能够在失败演变为灾难之前从中吸取教训。
- 建立安全沟通渠道：政府、关键基础设施运营商和技术专家之间需建立安全通道，以分享新兴漏洞和新威胁。
Altman总结道：“如果我们能在全球舞台上就什么是良好的证据、保障和监督达成共识，所有人都会受益。”
Amodei：推行类似“食品检查员”的外部评估机制
紧随其后发言的Anthropic首席执行官Dario Amodei同样强调标准制定的重要性。他呼吁建立“用于测试AI模型失控风险和滥用风险的全球通用标准”，并设立针对具有全球安全影响的AI事故的通知系统。
Amodei重申了其9月12日提出的行业安全合作倡议，指出Anthropic承诺引入外部评估人员，“类似于食品检查员”，并建议其他公司采取相同措施。“部分公司已同意采纳这一举措。”
除了呼吁各国政府间开展全球合作以制定国际标准外，Amodei还提出了两项具体建议：
- 从狭窄共识入手：应从所有成员都能支持的狭义协议开始，例如禁止使用AI制造生物武器，或禁止允许自家AI技术被用于制造生物武器。
- 构建同步发展的评估验证系统：建立与AI发展速度相匹配的评估和验证系统，使各国能够洞察前沿模型的能力，并相互核实承诺。
Amodei最后强调：“没有任何领导人、公司或国家能独自应对这一挑战。我们承诺与在座各国政府合作，推进这项紧迫的工作。”
