奥尔特曼:社会应接受AI负面后果以换取广泛益处

奥尔特曼称社会应接受AI负面后果以换取广泛益处。他批评Anthropic的“监管俘获”,但同意放缓最先进模型开发,并支持更严格的州级安全法律及外部评估提案。

OpenAI 首席执行官萨姆·奥尔特曼(Sam Altman)近日表示,为了获取人工智能带来的广泛益处及公众可及性,社会应当接受该技术可能引发的一些负面后果。在与 Politico 高级科技记者、《解码》(Decoded)合著者布伦丹·博尔登(Brendan Bordelon)的对话中,奥尔特曼阐述了这一观点。

OpenAI与Anthropic监管理念现分歧

当被问及 OpenAI 与 Anthropic 及其首席执行官达里奥·阿莫代(Dario Amodei)在理念上的差异时,奥尔特曼指出:“我们相信,世界应该接受一些坏事发生,以换取这项技术的好处以及人们拥有自主权。”

尽管存在分歧,奥尔特曼承认双方在部分监管立场上趋于一致。他同意阿莫代上月提出的放缓最先进 AI 模型开发的呼吁。此外,OpenAI 已跟随 Anthropic 支持新的州法律,这些法律对安全要求的规定比 ChatGPT 制造商此前支持的更为严格,这标志着其在州级策略上的微妙转变。近期,OpenAI 游说团队还支持了一项两党制的众议院提案,该提案要求顶级 AI 公司嵌入外部安全评估人员。

然而,奥尔特曼试图将 OpenAI 的监管立场与 Anthropic 区分开来,并引用了接近美国总统唐纳德·特朗普的科技顾问对 Anthropic 提出的“监管俘获”批评。奥尔特曼表示:“我不同意这种观点,但我理解那些认为‘这项技术将变得如此强大且危险,以至于旧金山的单一实验室应该拥有它,确保不发生坏事,并决定如何分配利益’的人的想法。”他将这种做法称为“完全不可接受的权衡”,并指出这与 OpenAI 所支持的“更宽松的监管立场”背道而驰。

“我不会接受这样的交易:‘我们将确保没有重大黑客攻击,没有滥用这项技术,零诈骗,以及其他所有不会发生的坏事’,”奥尔特曼说道,“因为我认为人们做的极其有益的事情——数量级上远超——坏事情。”这位 OpenAI CEO 随后补充称,他并不接受“真正的灾难性风险”,包括可能导致“对 AI 严重失控”的情况。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读