过去几周，多家头部人工智能公司的高管相继警告：他们正在开发的技术存在严重风险。上周末，Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）公开表达了对人工智能风险的担忧，并呼吁加快应对步伐。这并非孤立的声音。
数日前，人工智能研究人员 Jacob Coxon 在 X 上宣布离开 Anthropic，并写道：开发人工智能的人真心相信，这项技术会在本十年末杀死所有人。Anthropic 员工埃文·胡宾格（Evan Hubinger）公开表示赞同这一判断，并称自己认为人工智能在未来十年内灭绝人类的概率超过 10%。
他们最担心的场景之一，是人工智能被用于设计、制造并释放某种生物武器。这一风险值得仔细审视。
生物武器可以有多种形式：可以是针对特定基因特征的高致死性病毒，可以威胁粮食安全的真菌，也可以是无色无味、能在未被发现的情况下渗入地区供水系统的毒素。
令人担忧的是，AI 工具可能被用于辅助生成这类制剂。2022 年，Collaborations Pharmaceuticals 的研究人员发现，该公司为寻找人类疾病潜在药物而开发的 AI「分子生成器」，可以被极其轻松地用于反向目的：模型在不到 6 小时内生成了 40,000 个可能被用作化学战剂的分子，其中部分分子的毒性甚至强于已知神经毒剂。研究作者当时写道：「在不危言耸听的前提下，这应当成为药物研发 AI 社区同行们的一记警钟。」
斯坦福大学医学与生物医学伦理学教授大卫·马格纳斯（David Magnus）对此深感警觉。他表示：「这让我非常害怕。」自那以后，情况的变化速度更是远超当初。
如今，人工智能机器人可以回答涵盖各个科学领域的问题。德国汉堡大学生物安全研究员 Dunja Sabra 指出，语言模型集中了人类历史上几乎所有科学家的知识与经验，任何人都可以调用；这些模型甚至能提供实验操作说明和教学视频。
与此同时，生物技术本身也在进步：基因编辑和合成生物学工具的获取门槛不断降低，DIY 生物学运动已让许多人能够在家中搭建实验室。Sabra 认为，某个有决心的人最终得手，是很有可能的。
业界已建立一些防护措施。构建新基因组所需的 DNA 片段通常必须从对可疑订单进行筛查的公司订购；负责任的研究者会对高风险研究进行「红队推演」，由独立科学家寻找成果被滥用的途径，再由「蓝队」提出缓解方案；AI 公司也对其工具进行了修改，试图阻止模型输出可能被滥用的科学信息。但这些防护并非万无一失。
在上周发布的一份报告中，Anthropic 承认，已有人试图利用其模型探索如何让基孔肯雅病毒更易传播、如何制造对人类更危险的禽流感病毒，以及如何绘制毒素的「地图」。
马格纳斯坦言，双方始终处于拉锯状态：「我们必须建立更好的监测和筛查工具，但人工智能非常擅长找出绕过这些工具的办法。」
需要指出的是，并非所有科学家都认同上述风险量级。伦敦帝国理工学院的部分生物学家在近期一场新闻发布会上表示，现有的人工智能工具尚不足以独立完成生物武器的开发，现有防护措施已经足够。
帝国理工学院传染病学教授温迪·巴克莱（Wendy Barclay）强调，当前疫情的最大威胁并非生物武器，而是正在自然传播的病毒本身——相关禽流感病毒已导致数以百万计的鸟类死亡，在美国奶牛群中广泛传播，上个月还在犹他州一家养殖场的猫中被检出。
Sabra 则更倾向于关注未来 5 到 10 年的风险。她认为，各国应加强医疗体系建设，制备已知毒素的解毒剂并储备药物，「我们需要做好准备」。
麻省理工学院生物学家凯文·埃斯韦尔特（Kevin Esvelt）——基因驱动技术的发明者——对此态度鲜明：为了人类的未来，或者任何人们视为神圣的事物，这些问题值得认真对待。
