在人工智能从构建阶段转向运营阶段的当下，企业面临的核心挑战已不再是技术本身，而是如何有效管理这些系统。随着虚拟助手在零售等面向客户的行业中普及，用于解决日常问题并引导用户至相关产品或服务，技术人员的角色正发生深刻变化：工作重心从单纯开发 AI 系统，转移到了定义其运作边界、决策权限及升级机制上。
这一转变被称为“统治者转变”，即管理者不再亲自执行任务，而是为执行任务的智能体设定意图、原则和界限。对于工程师、产品经理及商业经营者而言，这意味着必须决定哪些价格例外可由代理自主批准，哪些情况需升级至人工处理。这种治理能力的缺失，正是许多企业在巨额投入后难以获得回报的关键原因。
麻省理工学院媒体实验室 NANDA 项目发布的 2025 年报告指出，尽管企业在生成式 AI 上的投资估计高达 300 亿至 400 亿美元，但绝大多数组织尚未展示可衡量的损益影响。数据显示，仅约 5% 的综合试点能产生实质性价值。研究人员将这种现象命名为“基因 AI 分裂”。公司并不缺乏与成功者相同的技术模型，真正稀缺的是能够指导系统运行并支持最终结果的人才与管理框架。
六项核心治理指南
- 摆脱“中间件”陷阱：传统工作中，大量时间耗费在从不同工具提取数据、重新格式化并转发给其他团队的过程中。虽然 AI 代理擅长信息传递，但它们无法判断哪些数据值得关注、哪些风险真实存在或哪些妥协值得进行。管理者需识别这种由架构导致的低效，而非仅仅归咎于个人能力。
- 用原则取代规则：人类习惯使用具体规则（如退款金额上限需上级签字）来管理工作，但面对每小时做出成千上万决策的 AI 系统，僵化的规则往往失效。治理 AI 需要编写按优先级排序的原则，使系统能在不跨越底线的前提下自主解决冲突。建立“原则图书馆”，明确谁或什么拥有特定决策权，是当前领导层无论技术背景与否的核心职责。
- 将文化编码化：AI 代理无法阅读挂在墙上的价值观海报。企业需将价值观和政策转化为机器可读指令，嵌入代码中。这包含三个层级：最上层是宪法，规定不可违反的红线；中间层是理论，界定竞争方式及长期关系与短期销售间的权衡；底层是游戏手册，提供具体任务的战术指导。
- 建立信任恒温器：避免将信任视为非黑即白的开关（要么完全无人监督，要么每笔交易人工审核）。应采用“恒温器”模式：根据预设原则衡量每个代理的决定。在一致阈值内自动执行，低于阈值则升级给人工。人工反馈进入学习循环，优化后续类似案例的处理。所有决策应保持透明、可审计且可解释，即“玻璃盒子”策略。
- 先完善背景再治理：无法治理看不清全貌的系统。大多数企业 AI 失败源于信息分散且不兼容。应遵循 CCRAG 循环：连接（原始信息）、背景（编织成单一业务图像）、推理（做决定）、行动（回传系统）、治理（对齐意图）。多数组织过度关注中间的推理环节，而忽视了背景整合与治理，这正是人类发挥价值之处。
- 通过例外进行领导：常规工作流程应由机器处理，人类的注意力应集中在机器无法解决的模糊、不熟悉或高风险的小部分案例上。这种基于例外的管理模式允许企业在不增加员工数量的情况下扩大产量，并将人员从重复劳动中解放出来，提升至更高价值的判断层面。
身份认同与判断力的重构
在与从业者探讨这一转型时，阻力往往并非来自技术难题，而是身份危机：“如果 AI 能做，我该做什么？”实际上，工作的本质从未改变，只是表达方式发生了变化。AI 并未降低判断的价值，反而使其成为组织中最稀缺的资源。
判断力与其孪生兄弟——品味，共同构成了新的核心竞争力。判断力验证答案的合理性，而品味决定哪些问题值得问，以及在百个可行选项中哪个最优。机器可以生成所有选项，但无法辨别最佳选择。对于具备系统思维、追求准确性及诚实面对故障模式的 IEEE 成员而言，AI 时代奖励的正是这些本能。工具虽变，纪律未改。管理者的新角色在于将品味和判断力制度化，使其成为工作本身，而非仅仅是辅助性话语。
