联合国人权事务高级专员沃尔克·图尔克(Volker Turk)近日在日内瓦举行的 RightsX 峰会上发表讲话,批评当前人工智能(AI)技术的治理模式。他指出,尽管 AI 技术本身具有未来感,但其管理和控制方式却呈现出一种“中世纪”的特征,权力高度集中在少数科技巨头手中。

图尔克强调,目前全球大部分的人工智能计算能力、数据以及基础设施仍由极少数人掌控。他援引数据显示,仅有五家科技公司便拥有超过 70% 的全球 AI 计算能力。这种集中化导致了显著的“民主赤字”,因为社会尚未建立起能够加速或引导 AI 发展的共同规则。
“我们正以一种几乎中世纪的方式治理着未来的技术:由少数精选的人进行统治,缺乏制衡、参与和问责机制,”图尔克表示。他警告称,历史经验表明,在这种权力结构下,普通人的权利和自由往往是最先受到影响的群体。
针对这一现状,图尔克呼吁建立以权利为中心的人工智能法规。他指出,技术日益深入地介入人们的日常生活,且这种介入往往发生在用户不知情的情况下。这不仅可能以微妙且隐蔽的方式扭曲公众辩论,有偏见的算法还可能在工业规模上重现不公正现象。
关键基础设施风险与文明挑战
随着运输、食品和医疗保健等领域的数字化进程加速,图尔克警告说,无论是出于恶意还是错误操作,人工智能都有可能切断整个社区甚至国家的关键基础设施。
“当人们讨论人工智能导致文明崩溃的可能性时,我们需要追问:谁有权决定我们承担何种风险?”图尔克说道。
尽管存在担忧,图尔克对前景持谨慎乐观态度。他认为,不受控制的权力终将引发民众的挑战,当前的民主赤字可能会转化为信任赤字。他举例指出,部分年轻人已经开始脱离网络,试图重新掌控自己的生活。
图尔克主张,人工智能带来的红利应当公平共享,这既需要科技公司的善意配合,也离不开有效的监管和问责制度。据悉,他已向多家前沿人工智能公司致信,敦促其在局势恶化前采取有效的保障措施。
“如果没有检测、规则和规定,一瓶牛奶都无法进入商店,”图尔克类比道,“鉴于人工智能潜在的危害性,对其进行某种形式的监管是理所当然的。”他建议将《世界人权宣言》作为指导人工智能发展的核心准则。





