一项由 Harris Poll 代表 Dataiku 开展的最新研究显示，英国企业在人工智能（AI）治理方面正面临严峻挑战。数据显示，超过半数的英国首席信息官（CIO）表示，其所在企业曾遭遇 AI 代理人违反政策的情况，这不仅影响了内部业务流程，也波及到了客户体验。
- 53% 的英国 CIO 报告至少有一个 AI 代理人违规并影响业务或客户
- 全球范围内 AI 行动违规的平均比例为 31%，英国的数据显著高于这一水平
- CIO 面临从 AI 投资中获取实际价值的巨大压力，若目标未达成，多数受访者预计将面临预算削减甚至失业风险
“AI 代理扩散”带来的治理难题
该研究指出，英国 CIO 们正面临一种被称为“AI 代理扩散”的现象，即在工作场所中创建和使用定制化的 AI 代理。这种做法虽然旨在提升效率，但也使企业和客户暴露在潜在的风险之中。
Harris Poll 对来自英国、法国、德国、美国、阿联酋、日本、韩国和新加坡的 685 位 CIO 进行了调查。结果揭示，尽管全球 CIO 都面临着类似的治理挑战，但英国的情况显得尤为突出。
具体数据显示，53% 的英国 CIO 确认看到过至少一个 AI 代理人违反业务政策，进而影响到组织自身或其客户，这一比例远高于全球 31% 的平均值。此外，仅有 49% 的受访企业能够建立完整的审计跟踪以解释 AI 的行为，而 68% 的受访者认为，识别失控的 AI 代理人并限制其影响需要长达 24 小时的时间。
值得注意的是，87% 的英国 CIO 提到了应对 AI 扩散的挑战，这些问题主要源于管理 AI 使用的政策、程序及法律法规的不完善。
监控不足与问责缺失
Dataiku 现场首席数据官 Faye Murray 指出，超过半数英国企业报告 AI 代理人违规的事实表明，仅靠监控手段是远远不够的。她强调，对于失控 AI 行动的影响，必须建立完全的问责机制。“这些机制不能在事件发生后才进行补救，而必须在部署之初就纳入设计考量。”Murray 说道。
Dataiku 首席执行官 Florian Douetteau 则认为，当前行业在推广自主系统时存在误区。他指出：“这个行业向 CIO 兜售了自主性，却忽略了提及随之而来的成本：自主系统需要的是‘管理’，而不仅仅是‘监控’。”
Douetteau 进一步解释道，监控只能告知用户某个代理正在运行，而管理则能判断该代理是否有权继续运行。目前，几乎没有任何机制允许企业轻易地“解雇”或终止一个失控的 AI 代理。对于那些 AI 代理人行为偏离预期的企业来说，这种缺乏控制权的现状令人感到不安。
正如 Douetteau 所言，在当前技术和管理框架下，面对完全失控的 AI 代理，企业唯一的选择往往只能是“拔掉电源”，但这显然是一种被动且充满不确定性的应对方式。
