当人工智能走出实验室进入物理世界，其容错率将急剧下降。在聊天机器人场景中，错误答案可能仅带来体验瑕疵；但在航空、自动驾驶或工业机器人领域，系统失误可能导致飞机停飞、车辆损毁甚至危及生命安全。如何评估自主系统是否具备脱离人工干预、独立执行任务的能力？
TechCrunch Disrupt 2026 大会将于 10 月 13 日至 15 日在旧金山 Moscone West 举行。届时，盾牌 AI（Shield AI）首席技术官 Nathan Michael、Waabi 创始人兼首席执行官 Raquel Urtasun 以及通用汽车（General Motors）机器人战略总监 Mikell Taylor 将在题为“当失败不是选择时，构建 AI 系统”的圆桌讨论中，深入探讨高风险环境下的 AI 部署难题。
本次讨论将聚焦于支撑 AI 安全落地的核心环节：建立安全文化、实施严格的测试与验证流程、克服监管障碍以及赢得公众信任。
国防领域的自主性挑战：Shield AI
Nathan Michael 目前领导 Shield AI 开发和部署 Hivemind，这是一款无平台任务自主软件。他的专业背景涵盖人工智能、控制理论、感知技术及多机器人系统，曾在卡内基梅隆大学机器人研究所工作多年，并领导弹性智能系统实验室。
Michael 团队的技术正应用于最具风险的环境之一。今年 2 月，Hivemind 被选为美国空军协作战斗机无人机原型计划的自主性提供商。随后在 3 月，Shield AI 宣布完成 15 亿美元的 G 轮融资，估值达到 127 亿美元。
在 Disrupt 大会上，Michael 将从国防科技视角出发，阐述在极端高风险环境中发展自主系统所需的信任机制与技术标准。
自动驾驶的验证边界：Waabi
Raquel Urtasun 在人工智能和自动驾驶领域拥有 25 年经验。创立 Waabi 之前，她曾担任 Uber ATG 的首席科学家及研发主管，同时也是多伦多大学计算机科学教授及 Vector 人工智能研究所联合创始人。
Waabi 正在加速推进其自动驾驶技术的商业化进程。今年 1 月，该公司筹集了 10 亿美元资金，并宣布与 Uber 合作，计划部署超过 25,000 辆由 Waabi Driver 驱动的机器人出租车。
Urtasun 强调，测试和验证是 Waabi 方法论的核心。公司利用 Waabi World 模拟器在虚拟环境中对 Waabi Driver 进行训练、测试和压力测试。她表示，该公司的自动卡车必须在实现无人驾驶部署前经过充分验证。
这一议题直指行业痛点：如何界定 AI 系统在无人接管情况下的运行阈值？Urtasun 将分享自动驾驶领导者如何通过仿真与实路测试相结合的方式来确立这一标准。
人机协作的信任构建：通用汽车
Mikell Taylor 拥有超过 20 年的机器人制造经验，现任通用汽车自动机器人中心机器人战略总监。此前，她曾领导亚马逊（Amazon）机器人团队，开发了 Amazon 首个自主移动机器人 Proteus。
Taylor 的职业生涯始于非工业化场景，她曾建造过一个用于毕业舞会的机器人约会对象。此后，她的研究方向从无人驾驶水下车辆转向工业机器人系统，始终致力于开发实用、可靠且能高效与人共存的机器人。
Taylor 的经验揭示了现实世界机器人面临的根本挑战：用户体验和采用率必须作为产品设计和部署计划的一部分，从一开始就被纳入考量。当 AI 驱动的机器离开受控演示环境，进入人们日常依赖的工作场所时，信任成为关键要素。
会议概况
尽管应用场景各异——无论是高空飞行的战机、地面行驶的自动驾驶汽车，还是仓库中的工业机器人——三者共同面临的核心问题是：当失败的后果具有不可逆性时，如何确保系统的就绪状态？
对于创始人和技术领导者而言，这场讨论提供了对比国防、自动驾驶和工业机器人三大领域决策逻辑的机会。
TechCrunch Disrupt 2026 预计将吸引超过 10,000 名创始人、投资人、运营人员及科技领袖参会，设有 250 多位演讲嘉宾和 300 多家参展初创企业。大会包含六个行业舞台、圆桌会议及分组讨论会，共计 200 多场活动。除正式议程外，商务对接和人脉拓展也是大会的重要组成部分。
