随着人工智能技术的快速演进,政策制定者、技术专家及公众对其潜在社会风险的关注日益增加。主要担忧集中在算法偏见、数据隐私泄露、虚假信息传播以及对 AI 代理人的控制失效等方面。

尽管这些议题在近年来才进入大众视野,但 IEEE 标准协会(IEEE SA)已在负责任的人工智能系统发展领域深耕十年。2016 年,IEEE SA 启动了“自主和智能系统(A/IS)伦理考虑全球倡议”,并发布《伦理设计报告》。该倡议旨在引导所有参与 A/IS 系统设计的人员,将道德考量融入技术开发全过程,以优先保障人类福祉。
这份具有里程碑意义的报告由来自世界各地的多学科专家团队共同制定,确立了 A/IS 设计的八大基本原则,涵盖人权尊重、福祉优先及透明度等核心内容。欧盟及其超过 100 名领先的人工智能伦理专家提供了重要意见。2017 年,第二版报告正式发布。据 IEEE 全球主任、该倡议创始执行主任 John C. Havens 介绍,截至 2019 年,贡献者已超过 400 人,社区规模持续扩大。
Havens 指出,《伦理设计》是同类报告中首个不仅列出原则清单,更依托 IEEE 信誉背书的作品,其发布时业界尚无类似先例。此后,一系列基于该框架的标准相继出台,为优先考虑人类价值的技术设计、构建与部署提供了实际指导方针,并推出了多项人工智能道德认证计划。今年恰逢该报告初稿发布十周年,IEEE SA 为此专门上线了网站、播客系列及博客板块。
八大指导原则确立伦理前置
根据《伦理设计》首版定义,“伦理”与“道德”虽常互换使用,但在负责任的 AI 系统设计中二者有所区别。报告结合经典伦理传统与基于价值的设计方法,为工程师提供了可操作的建议。
报告明确了设计自主系统的八项基本原则:尊重人权;将提升福祉作为发展的成功标准;赋予个人对身份、有效性和透明度的数据控制权;确保问责制;具备滥用意识;以及保障系统创建者的能力。作者强调,这些原则旨在将应用伦理前移至人工智能系统的设计阶段,而非仅在产品发布后被动应对关注。
IEEE 7000 系列标准体系成型
基于《伦理设计》框架,IEEE 制定了 7000 系列标准。目前该系列包含 29 个项目,其中 11 项已正式发布,其余仍在推进中。已发布的标准覆盖了多个关键领域:
- 伦理系统设计模型流程:IEEE 7000-2021
- AI 系统透明度:IEEE 7001-2021
- 数据隐私:IEEE 7002-2022
- 算法偏见考量:IEEE 7003-2024
- 对人类福祉的影响:IEEE 7010-2020
- 机器可读的个人隐私要求:IEEE 7012-2025
- 模拟人类同理心的系统:IEEE 7014-2024
推出双轨制人工智能道德认证
IEEE SA 提供了一套名为 CertifAIEd 的人工智能程序伦理学套件,包含针对个人和专业产品的两类认证。
专业认证旨在赋予个人评估自主和智能系统是否符合 IEEE 方法及道德标准的技能。产品认证计划则评估组织的 AI 工具或系统是否符合 IEEE 实体规范中的标准。认证过程由经过认证的评估者进行,完成评估后,所有者需将其提交至 IEEE 合规性评估计划,通过后可获得认证标志。
近期,IEEE SA 还发布了“儿童负责任人工智能”认证计划。该计划证明儿童 AI 产品已经过独立测试和验证,符合特定的设计和道德要求。
成立新产业连接集团聚焦福祉
IEEE 人工智能系统(AIS)近日成立了新的协作产业集团,旨在为开发者提供优先考虑人类福祉所需的资源、知识和工具,目前已有 200 多名成员加入。
该协会将其工作描述为一个实用、系统级的负责技术设计框架,致力于将繁荣理念转化为可在 AIS 全生命周期中使用的应用方法、指标和工具。小组正在制定指导方针,以设计、评估和管理能显著改善人类福祉及生态可持续性的系统。其下属委员会重点关注认知、教育、信仰、地球护理、灵性及其他相关问题。
Havens 表示,该小组直接建立在符合伦理设计的福利章节及 IEEE 7010 标准(关于自主和智能系统对人类福利影响评估的推荐实践)基础之上。他强调:“这是有意为之,因为如果人类和地球的繁荣不是在设计初期被首要考虑,那么人类的福祉和地球的可持续性只能沦为次要考虑。”
多媒体回顾十年历程
为庆祝十周年,IEEE SA 于 10 月 21 日推出了五集系列的“伦理设计:影响 10 年”播客节目,每两周更新一集。节目围绕《伦理设计》的愿景、基础原则的选择过程,以及这些原则如何转化为 IEEE 7000 标准展开讨论。
首期节目“伦理设计的起源”探讨了早期使伦理成为人工智能和自主系统设计实用部分的努力,专家们讨论了挑战、辩论、全球合作及现实世界影响,展示了负责任技术如何从道德原则转向可行的标准和实践。第二期节目“The Chapters and Committees”则聚焦于多学科小组如何将广泛的人类价值观转化为实际指导。
此外,IEEE SA 还发布了关于 IEEE 7000 系列的博客文章和教育资源,作为思想领导计划的一部分,旨在继续提高业界对这一突破性工作的认识与支持。





