Anthropic 工程师 Gurmeet Saran：构建可信赖的 AI 代理基础设施
在旧金山的人工智能公司 Anthropic，技术人员成员、IEEE 高级会员 Gurmeet Saran 正致力于解决一个核心问题：如何确保聊天机器人如 Claude 等人工智能模型的行为透明且输出可靠。Saran 的工作重点是开发基础设施，以深入理解模型行为背后的机制，并保证数据准确、结构化、可信，同时严格保护隐私。
“如果不能信任逻辑，就无法对行为作出可靠的说法，这会对安全产生真正的影响。”Saran 表示。他补充道，安全是 Anthropic 的首要任务。根据公司的使命声明，其目标是让 AI 代理人能够真正帮助用户和社会，避免不安全、不道德或欺骗性的行为。实现这一目标的关键在于确保研究人员能够观察和理解大型语言模型（LLM）的行为，而这对现有的监控工具构成了严峻挑战。
从雅虎到 Meta：二十年数据治理经验积累
Saran 对计算机系统的兴趣源于其在印度加尔各答的童年经历。他于 2004 年在卡利亚尼大学获得电子和电信工程学士学位，并于 2010 年在皮拉尼的比拉科技与科学学院获得软件工程硕士学位。
2007 年，Saran 开始在雅虎印度班加罗尔办公室担任数据团队技术负责人。在此期间，他面临着一个普遍难题：不同团队使用略有不同的逻辑计算相同的网站指标（如每日活跃用户），导致结果相互矛盾。为解决这一问题，团队建立了一个中央数据存储库，定义了标准化的指标作为“单一真相来源”。Saran 创建了一套模型，明确界定“每日活跃网站用户”的定义、事件计算方式及边缘情况处理标准。这一举措使得全公司的数据团队能够依靠统一方法得出可比的结果，并最终促成了内部网络分析工具 Yahoo! Digits 的开发。
2010 年，Saran 加入 Intuit，任职于加利福尼亚州山景区。他参与建立了统一公司产品（包括 TurboTax 和 QuickBooks）数据的分析基础设施。在 Intuit 期间，该公司开发了实时检测欺诈性税务申报的功能。Saran 与其他工程师共同构建系统，在遵守美国国税局（IRS）严格政策的同时，有效保护了纳税人数据。这段经历让他深刻认识到：“隐私和治理不能是事后加载的软件层次，它们必须从一开始就成为架构的一部分。”
2016 年，Saran 加入 Meta（当时名为 Facebook），担任门洛公园的首席软件工程师。当时，Meta 因视频浏览量统计错误引发争议，公开承认存在夸大发布视频观看次数的情况。Saran 指出，这并非简单的编码错误，而是架构问题。他借鉴在 Intuit 的经验，建立了 Metric360 系统，为整个网站定义单一的真相来源以管理视频观看指标。该系统最终成为网站架构的核心部分，截至 2021 年 Saran 离职时，Metric360 已被全公司用于计算视频指标。随后，他短暂加入帕洛阿尔托的金融服务公司 Wealthfront，担任首席软件工程师，协助建立数据基础设施。
AI 时代的可观测性挑战
2025 年，Saran 正式加入 Anthropic。他将当前面临的挑战比作医疗场景：如果医生监测患者生命体征的仪器出现轻微误校准，即使大多数读数正常，边缘情况下的严重误判仍可能导致灾难性后果。同理，他的工作旨在确保 AI 系统的“仪器”给出准确读数，保证数据含义与其表述一致。
“人工智能代理人特别难以观察。”Saran 解释道。当系统执行一系列行动（如生成对话回应）时，需要一种方法来捕捉其行为轨迹、信息来源以及结果是否符合用户预期。此外，系统还需具备识别敏感数据并控制其流动的能力。Saran 认为，这是比他以往研究过的任何问题都更苛刻的可观测性挑战。
尽管 AI 技术仍处于早期采用阶段，但 Saran 将解决系统可靠性视为自己的热情所在。“我认为让人工智能系统真正可审计和透明是未来十年最重要的工程问题之一。”他说。
IEEE 在塑造 AI 标准中的作用
Saran 于 2025 年 3 月加入 IEEE。在拥有二十多年跨雅虎、Intuit、Meta 和 Wealthfront 的数据基础设施建设经验后，他希望通过与同行评审、出版及更广泛的工程研究生态系统互动，推动行业进步。
他认为 IEEE 可以通过制定标准在塑造 AI 未来中发挥关键作用。“我们对一切都有标准，从构建代码到软件测试，”Saran 表示，“人工智能基础设施需要类似的标准，而 IEEE 拥有这样的信誉和影响力。”
此外，Saran 强调 IEEE 在促进全球工程师联系方面的价值。随着 AI 发展超越少数组织的范畴，许多国家的工程师难以轻松进入全球专业社区。IEEE 在这些地区的业务开展有助于打破壁垒，确保这种重要的专业联系得以维持。
