随着生成式人工智能（GenAI）模型被广泛集成到机器人控制系统中，行业面临着一项核心挑战：与传统确定性算法不同，基于概率的 AI 架构缺乏可预测性。这引发了一个关键问题——如何确保新型人形机器人的安全性？
针对这一痛点，卡内基梅隆大学安全人工智能实验室负责人丁医生联合资深创业高管凯尔及机器学习工程师西莫·拉奇迪，共同创立了初创公司 Safeworld。
Safeworld 今日正式结束隐蔽状态，宣布完成超过 1200 万美元的种子轮融资。
从理论验证到经验性测试
Safeworld 指出的安全挑战主要包含两个维度：一是对先进生成式 AI 进行概率风险评估，即如何承担概率系统的潜在风险；二是建立信任机制。这两者缺一不可，否则无法实现机器人的大规模部署。
目前正值制定行业安全标准的关键窗口期。正如创始人所言：“当你看到机器人在家中与孩子发生碰撞并导致事故时，一切为时已晚。”
Safeworld 的核心业务是评估机器人控制系统的模拟环境，其中嵌入了高保真的人类模型。这一逻辑与 Tesla 或 Wayve 等自动驾驶公司面临的挑战类似，后者需确保车辆能应对道路上的突发状况。但 Safeworld 认为，机器人的难度更高，因为它们通常在非结构化环境中运行。
具体而言，评估重点包括工厂盲点检测、防止特定人员碰撞所需的速度与停车距离计算，以及机器人对人类存在的感知能力。
数字孪生与极端场景模拟
为解决上述问题，Safeworld 利用 Genesis 或 MuJoCo 等物理引擎构建数字孪生环境。在该环境中，插入待评估机器人的模拟实体，并通过其真实软件驱动，随后运行成千上万个涉及人类模型与机器人交互的场景。
这种方法的必要性在于人类行为的不可预测性。例如，“跌倒”就是模拟测试中的一个典型极端案例。在现实中进行此类测试极其困难且危险，而在虚拟环境中则可以反复验证。
Safeworld 正在构建的平台旨在提供第三方验证服务。这不仅有助于机器人制造商确认自身工作的安全性，还能促进竞争对手之间共享安全案例数据。
团队强调，许多人低估了边缘情况（Edge Cases）的处理难度。“我们担心的不是在演示中完美运行的‘真空’机器人，而是那些由从未操作过机器人的人在大范围内部署的设备。”
合作伙伴视角：格里特机器人
格里特机器人公司（Greet Robotics）首席技术官 Vishal Dugar 正致力于开发机器人的人工智能大脑，并与 Safeworld 合作推进安全模拟项目。
Dugar 指出：“大多数系统的难点在于，仅通过数学推导和编写方程来证明系统安全是不可行的。安全性必须经过经验性验证。”
对于与人类工人协同作业的机器人而言，确保机械臂不撞击人员至关重要。这需要覆盖各种可能的场景。Dugar 补充道：“人类的外观和行为具有极高的多样性。他们的身体配置各异，可能站立、跪姿、跌倒、蹲下或奔跑。此外，还需要考虑衣着、体型、身高、肤色等外观变化。机器人必须能够响应人类在这些情境下的所有行为表现。”
商业模式与市场定位
鉴于生成式 AI 在机器人领域的应用尚处早期阶段，Safeworld 仍在探索最佳的产品模式，特别是面向外部用户的平台形态。
扎霍表示：“我们可能是该领域第一家独立的安全验证公司。如果企业想要部署此类机器人，他们需要支付费用，由我们来处理相关的安全合规与验证工作。”
