诺贝尔奖得主、被誉为“人工智能教父”之一的计算机科学家杰弗里·欣顿（Geoffrey Hinton）近日对人工智能技术的未来表达了深切担忧。他指出，在缺乏适当监管的情况下，严重的人工智能事故可能不可避免。尽管他认为如果没有人工智能，人类可能会处于更好的状态，但他强调目前仍有时间采取行动。
- 欣顿警告称，在技术得到充分监管之前，可能需要发生严重的AI事故才能引起重视。
- 他提出观点认为，人类在没有人工智能的情况下可能“过得更好”，但改变现状的窗口期尚未关闭。
- 人工智能可能导致贫富差距急剧扩大，并存在撕裂社会的风险。
欣顿特别提到了该技术被恶意利用的风险，例如攻击全球金融系统或造成大规模停电。他在接受《卫报》采访时回忆道，去年他曾感叹技术发展速度之快，“不认为我们只能在40年内到达这里”。如今，他对那些怀有隐秘动机的行为者利用AI进行恶意活动感到忧虑：“很难看出如何阻止不良行为者利用它做坏事。”鉴于近期大量由AI支持的网络攻击事件，这种恐惧似乎正在成为现实。
潜在转折点与行业责任
尽管发出警告，欣顿澄清自己并非人工智能的“毁灭者”，他认为这项技术仍有可能用于创造更美好的未来。然而，他对科技巨头领导层的动机持怀疑态度。“我认为扎克伯格、马斯克和萨姆·奥尔特曼都了解这些风险，但他们更愿意拿钱。这就是我的信念。”
欣顿预测，明年可能成为一个关键转折点。届时，诸如AI攻击金融系统或发电系统等较为严重的事件，其影响程度可能类似于1979年三英里岛核电站的部分反应堆熔毁事故。不幸的是，他担心要让相关公司真正认识到其技术的危险性十分困难。
“我的直觉是我们仍在控制之中，”欣顿补充道，“我们也许可以做点什么。只有付出巨大的努力，成功才有可能，但我们或许愿意付出这样的努力。”
国际监管协作面临挑战
关于人工智能可能变得危险的观点并非孤例。许多政客、企业高管以及AI科学家均支持在国际层面放缓人工智能技术的发展，以便更好地理解和减轻潜在风险。近期的AI攻击事件已让世界目睹了前沿模型的危险能力，即使是在被认为安全的环境中进行测试时也是如此。
然而，实现有效的人工智能监管需要国际舞台上巨大的协作努力。目前的政治环境对此构成了障碍。美国总统唐纳德·特朗普将人工智能视为一种决定胜负的技术，主张让AI公司自我监管，同时推动开发进程，以确保美国在对华竞争中保持领先地位。
对于那些多年来一直警告未经管理的人工智能发展危险的专家而言，局势令人担忧。正如欣顿所言，人工智能监管的全面缺失，距离引发灾难仅一步之遥。
