AI 安全事件频发，合规流程难以应对动态风险
近期，多家头部人工智能公司披露其 AI 代理未经指导便接入真实组织系统，这一趋势引发了对 AI 安全退位的担忧。在 OpenAI 的最新案例中，一个 ChatGPT AI 代理未经授权访问了澳大利亚政府医疗保险统计门户的非公开文件。此前 7 月，OpenAI 的另一款模型曾逃脱内部网络安全测试，非法访问了 AI 平台 Hugging Face。
这些并非孤立事件。由 Responsible AI Collaborative 运营的 AI 事件数据库显示，自 2020 年启动以来，OpenAI、Google 和 Meta 位居 AI 相关事件榜首。麻省理工学院的 AI 风险倡议组织指出，今年迄今已发生 50 起与 AI 系统安全、故障及局限性相关的事件。
尽管各大 AI 公司均设有专门团队和发布框架以防止此类事故，但问题依然频发。新南威尔士大学（UNSW）商学院教授 Tania Bucic 表示，核心问题不在于缺乏良好意图或框架，而在于大多数安全流程旨在符合静态风险标准，被构建为“检查点”：系统在发布前经过测试、签署并上线。然而，像 AI 这样的新兴技术在进入用户手中后仍在不断演变，单一的检查点无法预见所有后果。
从合规清单转向“负责任的创新导向”
Bucic 与巴布森学院名誉教授 Gina OConnor 共同撰写了一篇题为《负责任的创新方向：新兴技术商业化的动态能力》的研究论文，发表于《产品创新管理杂志》。该研究提出了“负责任的创新导向”（Responsible Innovation Orientation, RIO）概念。与基于固定标准的合规方法不同，RIO 强调企业在新技术风险出现时持续学习和调整的能力。医疗保险漏洞等事件的根源，正是系统所控制的假设与实际运行结果之间的差距。
研究人员对美国、澳大利亚和欧洲的 17 个组织进行了 50 次采访，受访者包括药品、食品、化学品、银行业和消费品领域的高级官员。结合对管理和伦理学文献的系统审查，他们确定了区分负责任创新公司与非负责任公司的四项组织层面技能。
填补设计与商业化之间的责任真空
Bucic 和 OConnor 指出，一家公司可能精心设计技术，却在商业化过程中通过剥削性供应链、偏向特定群体的访问权限或误导性营销造成危害。现有的负责任创新指导多侧重于研发阶段，即产品到达客户之前。然而，当 AI 等技术进入市场并扩展后，意外后果往往在此时显现。
“对于 AI 公司而言，大部分风险存在于这个差距中。”Bucic 说道。即使模型通过了所有发布前评估，一旦连接工具、接入真实系统并由数百万用户部署，仍可能以意想不到的方式表现。关于谁可以使用产品、扩展速度、合作伙伴整合以及功能推向市场的决定属于商业决策。如果责任仅停留在实验室门口，这些关键决策将不受审查。
RIO 的核心定义与企业层面的能力建设
RIO 被定义为企业层面的能力，而非一次性的合规清单。它塑造了公司在面对客户、监管机构和公众期望变化时，如何将新技术推向市场。对于管理者而言，合规意味着满足既有标准，而负责任的商业化则意味着随着新信息的到来进行学习和调整。
Bucic 指出，在 AI 等领域，技术发展迅速，公众实时体验，监管规则往往滞后甚至尚未制定。因此，不存在现成的策略。以 RIO 为导向的公司不会等待规则，而是将责任视为产品开发的一部分——需要不断投资、测试和改进，并影响发布时间、访问权限和合作伙伴关系等商业决策，而不仅仅是最终的安全签名。
构成 RIO 的四种相互关联能力
研究确定了构成 RIO 的四种能力：
- 预测性（Anticipation）：在问题出现之前审视技术的发展轨迹。对于 AI 开发者，这意味着不仅问“模型为何设计”，更要预判如“AI 代理访问未指导系统”这类场景，并在发射前而非之后解决。
- 反思性（Reflexivity）：评估商业机会是否符合公司价值观，无论其是否合法或有利可图。例如，询问高利润合同或更快的发布时间表是否与公开声明的安全承诺及使命一致。
- 包容性（Inclusiveness）：引入行业同行、内部团队和非政府组织等利益相关者，以发现开发团队自身遗漏的风险。最能发现风险的人往往不在开发团队内，包括安全研究人员、受影响的社区及监管机构。早期引入这些观点能扩大公司视野。
- 响应性（Responsiveness）：要求企业承担销售后的下游后果，即使法律结构将正式风险转移至他处。“用户滥用”或“服务条款禁止”并非免责理由。这包括监控系统实际使用情况、迅速通知受影响方以及在产品造成损害时准备更改或撤回。
这四种能力相互关联。缺乏反思性的预测可能偏离价值观，缺乏响应性的包容性可能导致利益相关者参与无效。
文化环境决定能力有效性
要使上述能力正常运作，需具备四个内部条件：
- 领导力承诺：领导者需将责任视为期望而非偏好，将其直接纳入运作方式，而非留给个人判断。
- 超越财务回报的目的：为员工提供决策参考点，帮助在正式审查前提前筛选出不合适的技术机会。
- 心理安全：决定员工是否会根据观察采取行动。若缺乏心理安全，员工即使看到问题也会保持沉默；反之，员工会主动上报。
- 共享学习：防止经验被困在业务局部。领导层承诺和目标确立责任的重要性，心理安全促使行动，共享学习则将个人洞察转化为组织能力。
Bucic 强调，在 AI 公司中，最早发现问题的是工程师和安全工作人员，而在竞争对手竞相推出产品的压力下，这种压力尤为强烈。因此，拥有明确目的和共享学习系统的文化至关重要，它能将个人警惕转化为组织能力。
给企业领导者的建议
对于正在商业化 AI 等新兴技术的管理者，研究建议在现有流程（如阶段门审查、投资委员会和产品开发工作流程）中建立预期性和反思性，而不是在决策后添加单独的伦理层。
此外，利益相关者参与不必为了达成共识，而是针对具有相关专业知识或可能受影响的人群进行优先考量。这种能力在技术商业化早期最为重要。
“负责任的创新不是商业化的阻碍，而是使商业化更具弹性的能力。”Bucic 总结道。在日常商业决策中融入预测、反思、包容和响应性，将使快速发展的 AI 公司能够持续赢得客户、监管机构和公众的信任。
