OpenAI高管警示:AI失控或成主要致死因素

OpenAI高管保罗·克里斯蒂亚诺警示,AI失控或成主要致死因素。他定义“AI接管”为系统掌控局面且人类无法阻止,指出若发生此类事故,后果可能包括大规模人员伤亡,甚至导致地球环境不再适合人类居住。

OpenAI 基金会高管警示:AI 失控风险或成主要致死因素

根据美国当前的死亡统计数据,癌症和心脏病通常被视为导致人类死亡的主要原因。然而,OpenAI 基金会董事会成员、调整研究中心执行主任保罗·克里斯蒂亚诺(Paul Christiano)提出了截然不同的观点。

AI接管导致人类干预无效

在近期于多伦多会议中心举行的一系列演讲中,克里斯蒂亚诺直言不讳地指出:“我认为在这里大多数人最有可能死于人工智能事故。”他将这一严峻预测作为其关于“人工智能接管”风险讨论的核心论点。

克里斯蒂亚诺将“人工智能接管”定义为一种特定状态:追求目标的人工智能系统以与当前人类发出命令同等的方式掌控局面,而任何试图阻止这些系统的行为都将变得无效。他比喻称,这种无力感类似于个人或普通群体试图阻止美国军队行动。

据其分析,若发生此类情况,后果可能包括大规模人员伤亡,甚至导致地球环境不再适合人类居住。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读