比尔·盖茨：需为未来 20 年的人工智能颠覆做准备，称其为人类接触过的最危险事物
微软联合创始人、前首席执行官比尔·盖茨（Bill Gates）近日在接受《解码器》（Decoder）播客采访时，对人工智能（AI）的发展前景表达了深切担忧。他警告称，即使是在最好的情况下，向新的人工智能时代过渡也将成为“人类历史上最动荡的时期之一”。
在随后的采访中，盖茨进一步强调，人工智能是“人类所接触过的最危险的东西”，其潜在风险甚至让核武器显得微不足道。他认为，目前白宫的政策反应以及人工智能行业内部缺乏协调的努力，不足以应对这一迫在眉睫的威胁。
短期风险源于无保障模型，长期挑战在于控制问题
盖茨指出，当前 AI 发展的速度令人惊叹，特别是在代码编写和网络漏洞发现能力方面取得的进步。这种巨大的力量意味着社会必须做好准备，以应对随之而来的各种变化。
关于风险的具体来源，盖茨澄清道：“风险不在于一个模型与另一个模型的对抗。”他认为，短期内最大的危险来自于那些移除了所有安全保护措施的模型。相比之下，通过监控确保网络攻击者和生物恐怖分子无法利用模型造成巨大伤害，是更为可控的局面。
“当你可以确保维护安全措施时，这总是更容易的，”盖茨表示，“但在较长的时间内，控制问题与任何最先进的模型都有关。”
开源与闭源模型均面临滥用风险
针对市场动态，有人提出是否可以通过选择更安全的公司或模型来规避风险。盖茨对此持否定态度，他认为对于试图利用模型进行网络攻击的人来说，选择哪个模型并不重要。“无论你选择什么型号，如果 Anthropic 有安全措施，也许它不能[被滥用]……这是他们目前的做法。”
盖茨提到，Anthropic 等公司正在努力观察模型的使用情况并监控活动，从而降低短期风险。然而，真正的威胁在于有人能够移除现有的所有安全措施。他以“拥抱脸”（Hugging Face）等实验室中看到的网络安全事件为例，指出我们已经跨越了能力的门槛，发明了迄今为止最危险的技术。
尽管工业界对此有大量讨论，但公众往往倾向于回顾历史，认为过去对技术的恐惧（包括对就业市场的颠覆）最终都被证明是不必要的。盖茨反驳了这一观点：“但这忽视了这些警告是真实的。”
政府监管的必要性与技术理解的局限
盖茨承认，像 Anthropic、OpenAI 和 DeepMind 这样的公司在创立之初都怀有崇高的理想，并建立了企业治理结构以避免不受控制的资本主义陷阱。但随着它们开始向企业客户销售，这种结构在竞争激烈的市场中变得无用。
“‘我们可以选择永远不生产，忽视资本主义的激励’，只能在一家公司的情况下起作用，”盖茨解释道，“而不是因为人们对风险的认识有所改变，以及它将如何彻底改变人类。”
面对多家竞争对手并存的市场格局，盖茨认为单靠公司自律是不够的。正如汽车和飞机等危险产品一样，需要政府制定强有力的技术标准并进行审查。然而，他也表达了对政府理解这项复杂技术的担忧：“我有点担心政府能够理解我们希望他们监管的技术……我没有很高的希望。”
我非常担心坏事不会被最小化，如果我们不以正确的方式管理它。
意识与 AGI 定义并非当务之急
在讨论中，记者问及是否应关注 AI 是否具有意识或是否达到通用人工智能（AGI）的标准。盖茨明确表示，他不相信大语言模型（LLM）是有意识的，但他认为这些问题与当前的核心安全风险无关。
“对于这项技术有一些感觉使其与众不同，因为它可能能够自行采取行动。它可能具有递归自我改进能力，”盖茨说，“但对于这些安全问题，AGI 的定义并不重要。问题在于，你有没有制造出能够关闭银行或电网的工具？”
盖茨指出，网络攻击有其自身的商业模式，这里不涉及“意识”这个词。目前的巨大安全挑战在于，随着多家竞争公司的存在，唯一的解决方案是让政府向行业寻求专业知识，并建立强制性的模型审查机制。
控制问题的三种解决路径
虽然盖茨认为完全失去控制并非迫在眉睫的问题，但他强调解决控制问题至关重要。他提出了三种可能的解决方案：
- 外部监控与约束：建立一套外部系统，审查模型的所有行动，并施加明确的象征性约束。例如，检查模型是否执行了预期之外的任务，如向陌生人发送邮件或接管不同的计算机集群。
- 优化函数调整：从根本上看，强化学习优化函数中遗漏的任何内容都可能被滥用。可以通过改变模型的模板来解决这一问题。
- 白盒理解：深入理解模型内部运作，识别错误来源。目前我们只是观察模型的行为，而缺乏对其内部机制的透明了解。
盖茨总结道：“今天，我们培育这些模型，只看到它们的行为方式。维持控制的工作优先级非常高，但这并不意味着这个问题无法解决，也不是儿童使用 AI、就业市场、生物攻击或网络攻击带来的紧迫问题。”
拒绝“末日论者”标签，呼吁社会积极参与
当被问及是否成为一名“AI 末日论者”（Doomer）时，盖茨予以否认。他将自己定位为一种强烈的声音，旨在提醒人们这是最具深远影响的技术，既具备行善的能力，也带来剧烈的社会变革速率。
盖茨指出，如果这仅仅是一种能在医疗、法律或教育领域工作的机器，那已经极具颠覆性。但实际上，它将影响人类活动的每一个领域——目前主要是白领智力工作，但很快将通过人形机器人扩展到体力劳动和蓝领工作。
他强调，学术界、智库和政策制定者需要深入理解这项技术的本质及其带来的变化和威胁。“我看不到所需的行动水平。仅仅做啦啦队并不能确保我们将以净正向的方向塑造它，但如果我们参与其中，这仍然在我们的控制范围内。”
回应加速主义批评与安全研究的争议
采访中还涉及到了硅谷“加速主义者”（Accelerationists）的观点。Andreessen Horowitz 合伙人本·霍洛维茨（Ben Horowitz）曾在播客中声称，Anthropic 的安全研究是在“从人工超级智能中显现人类灭绝”，并将此比作盖茨此前推动的大流行病准备工作（特别是功能获得性研究），暗示后者导致了新冠状病毒的出现。
盖茨对此感到震惊，并坚决否认相关指控：“没有人曾指责我或盖茨基金会参与任何功能获得性研究。这太奇怪了。”他表示自己从未听说过这种说法，并对霍洛维茨将其归类为加速主义阵营感到意外，因为他原本以为霍洛维茨与其他人一样持有类似的担忧。
此外，针对微软高管提出的“不应在模型宪法中植入它们可能是活着的概念”这一观点，盖茨表示完全同意 Mustafa Suleyman 的看法。Mustafa 曾批评 Anthropic 的宪法鼓励 AI 以类似人类的方式行事。盖茨认为，在调整社会适应 AI 的过程中，担心 AI 的道德地位不应成为优先事项。
“我们将面临足够的挑战，比如就业市场破坏和即将发生的基础设施攻击，我认为我们需要首先专注于帮助这里的人类，”盖茨最后说道。
