Anthropic CEO重申负责任加速AI开发

Anthropic CEO重申负责任加速AI开发。达里奥·阿莫代称将顶住压力,在具备保障措施下加快部署,并获Altman等认同但未承诺。

Anthropic 首席执行官达里奥·阿莫代(Dario Amodei)在纳斯达克交易所开市仪式上发表演讲,重申公司将致力于负责任地加速人工智能开发。阿莫代明确表示,Anthropic 不会屈服于来自商业或政治方面的压力。

双重检查确保AI安全

回顾公司创立初衷,阿莫代指出 Anthropic 旨在构建能够辅助人类的强大技术。他提到,人类智慧曾帮助世界消除瘟疫、天花和脊髓灰质炎等疾病,而人工智能有望通过与人类协作,进一步推动医学领域的进步。

尽管阿莫代此前多次警告 AI 技术发展过快的风险,并在今年 9 月提出了一项包含协调安全标准及引入第三方评估人员以验证安全承诺的加速发展计划,但他此次强调,只要具备适当的保障措施,AI 被滥用所带来的“非常真实的风险”——无论是来自个人还是国家层面——都是可以避免的。

OpenAI 首席执行官 Sam Altman、Google DeepMind 首席执行官 Demis Hassabis 以及 xAI 所有者 Elon Musk 均对阿莫代的立场表示认同,但尚未做出具体承诺。

阿莫代透露,Anthropic 将继续投入资源进行 AI 调整与测试,并开发新方法以深入理解 AI 行为,确保其始终处于人类控制之下。他表示:“安全工作仍有许多要做,最困难的挑战还在前方。”

针对未来规划,阿莫代称:“我们将加快人工智能系统的培训和部署,只要有必要的时间。”他强调,构建最具能力 AI 系统的公司必须比现在更加专注于对这些系统进行双重和三重检查,以确保安全性和人类控制权。

Anthropic 联合创始人兼总裁 Daniela Amodei 周四在接受 CNBC 采访时补充道,虽然风险确实存在,但人工智能带来的承诺同样“令人难以置信”。她表示:“我认为到目前为止,我们已经做了令人难以置信的工作……我们显然还有更多的工作要做,但我们深深地致力于安全。”

达里奥·阿莫代演讲全文摘录

谢谢你,Daniela。我和我的联合创始人创办了 Anthropic,因为我们相信,时代最强大的技术应该是为了人类的利益而开发的。我和 Daniela 的父亲死于一场几年后可治愈的疾病。我从生物学开始我的职业生涯,希望能帮助未来的治疗方法更快地出现。

在实验室里,我目睹了科学家在试图了解疾病和开发新疗法时所面临的巨大复杂性。许多科学工具可以突破这一瓶颈——基因编辑工具、基因合成工具、用光控制大脑细胞的工具——始于纯粹的想法。换句话说,它们来自思考,来自智力。人类的智慧已经使得瘟疫、天花和脊髓灰质炎等疾病成为世界上大多数人的历史。但其他疾病的进展对于许多患者及其家属来说太慢了。从一个伟大的想法到治疗可能需要几十年。从第一次发现 DNA 中奇怪的重复模式到首次使用 CRISPR 治疗疾病的批准,自然充满了这些模式,但我们智力不足以解读它们的大部分。太少的科学家有太少的时间。

现在我们可以建立智能。无论是蛋白质折叠、药物设计、癌症遗传学,还是临床试验管理。我相信足够强大的人工智能与人类协同工作,可以将一个世纪的科学和医疗进步压缩成十年。我不想超越自己。目前我们所拥有的只是初步的结果。实验和临床试验仍需要时间,尽管它们涉及缓慢而繁琐的过程,我相信人工智能可以大大加快这些过程。我们希望在未来,愈来愈少的家庭在几年内错过治疗。

医学只是一个特别鲜明的例子,Claude 还有许多其他的应用。我们的客户——世界上最雄心勃勃的公司、非营利组织和个人——我们很自豪能与他们一起工作,我非常乐观地看待我们在未来能做些什么。

同时,我们一直诚实地说这项技术具有非常真实的风险。从个人或国家对技术的滥用到经济中断,再到人工智能系统的失控。我们讨论这些风险,不是因为我们认为它们是不可避免的,而是因为我们认为它们是可以避免的。避免它们取决于人工智能开发人员的选择。如果我们不注意安全,人工智能将如何发展与如果我们痴迷于安全,人工智能将如何发展之间存在巨大的差异。

对于安全和公共利益的痴迷从一开始就被植入了 Anthropic 的 DNA 中,从防范生物和网络风险到调整训练和测试。公司令人难以置信的才华使我们能够构建最有能力的人工智能系统,需要比现在更努力地对这些人工智能系统进行双重和三重检查,确保它们是安全的。我们将加快人工智能系统的培训和部署,只要我们有信心它们是安全的。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读