牛津互联网研究所（OII）的研究团队近日发表论文，建议欧盟政策制定者将“幸福”作为评估人工智能技术的关键指标。该研究由 Sandra Wachter 教授领导，旨在确保资助人工智能发展的纳税人能够从技术进步中获得实质性回报，而不仅仅是经济增长或企业利润增加的承诺。
这篇题为《欧盟技术政策中的幸福优化，以偿还人工智能公共补贴》的论文发表在皇家开放科学学会期刊上。研究人员指出，公众通过资金补贴、税收减免以及提供土地、水、能源、基础设施和数据等资源，实质上为人工智能的发展提供了巨大支持。特别是在数据层面，用户的创造性工作、社交媒体帖子及互动行为均被用于训练前沿模型，但公众对此往往缺乏话语权。
除了传统的经济增长和风险控制目标外，研究人员提出应将“幸福”作为人工智能技术的第三个核心目标。他们强调，仅仅降低技术的危害性并不等同于使其对社会有益。根据拟议的方法，受益于公共支持的公司将被要求预测其技术如何改善人类的幸福感和福祉，并对实现这些益处负责。
研究指出，幸福感主要源于相关性、能力和自主性，而这些要素可能受到特定人工智能应用的侵蚀。例如，模仿人类情感的聊天机器人可能会削弱人们对真实人际关系的重视；过度依赖人工智能可能导致个人技能退化；算法的影响可能限制人们做出独立选择的能力。此外，数据中心对土地和水资源的占用减少了绿色空间，从而切断了人们与自然的联系。
在资源消耗方面，随着数据中心服务器密度和算力的提升，能耗显著增加，进而推高了普通 DRAM 和 NAND 存储芯片及其相关设备的成本。水资源正成为地球最宝贵的商品之一，目前已被广泛用于冷却服务器机架。
资金支持方面，欧盟已向人工智能巨型工厂拨款 200 亿欧元。同时，GenAI4EU 和数字欧洲计划正通过 Horizon 研究项目投入 7 亿欧元，用于支持生成式人工智能和超级计算计划。
研究人员警告称，若强大的模型未得到适当控制，人类将面临大规模失业甚至灭绝的风险。去年，OpenAI 曾提及雇主转向人工智能以削减成本可能导致的大规模失业前景。此外，从模型制造商及其云提供商处获取透明度数据也存在困难。
鉴于上述背景，寻找能够切实改善人民福祉的技术路径显得尤为必要。虽然业界可能对这一提议反应不一，但研究人员认为，如果公众正在帮助建立人工智能产业，那么他们也理应分享由此产生的利益。
