Snowflake首席安全官:信任是释放AI代理潜力的关键

Snowflake首席安全官称信任是释放AI代理潜力的关键。他提出安全已从阻碍转为推动力,并展示Coco与CoWork平台,通过自动化金字塔结构,让企业随信心积累逐步扩大AI覆盖范围。

雪花首席安全官:信任与可靠性是释放企业级 AI 代理潜力的关键

在近期举行的 Snowflake World Tour 伦敦站活动中,“代理企业”(Agentic Enterprise)成为核心议题。随着人工智能工具逐步改变各规模企业的运营方式,如何构建值得信赖的合作伙伴关系成为行业关注的焦点。

自动化金字塔:AI处理底层重复任务

Snowflake 首席安全和信任官 Mayank Uphadyay 在接受采访时指出,确保企业边界免受外部 AI 入侵,以及保障内部平台对代理攻击的安全性,是实现这一目标的两面一体。

安全从阻碍转为推动力

Uphadyay 将选择 AI 模型比作人类大脑的功能,并强调了成功构建代理企业所需的要素。针对客户在拥抱 AI 兴奋感与维护隐私信任之间的平衡问题,他观察到,尽管客户处于 AI 采用的不同阶段,但最大的差异在于安全性角色的转变——“现在是推动者,不再是阻碍者”。

引用前赛车手 Mario Andretti 的观点,Uphadyay 认为刹车并非为了减速,而是为了建立信心。同理,安全措施旨在建立信任。Snowflake 通过其 Trust Center 工具,在三个层级间运行连接,保护客户数据,同时提供系统可见性及改进建议。

(图片来源:Shutterstock)

作为拥有超过 12 年运营历史的公司,Snowflake 凭借长期积累的声誉赢得了客户信任。Uphadyay 指出,在构建新防护机制方面正涌现大量创新。鉴于员工在长期工作中可能获得不同系统和服务的权限,确保为本质上具有探索性的 AI 代理授予正确且受限的权限至关重要。

Coco 与 CoWork:自动化金字塔与人机协作

在本次世界巡回展中,Snowflake 展示了 Coco 和 CoWork 平台。Uphadyay 描述了这些服务如何通过组合人类任务与自动化流程来为企业带来利益:“重复性工作可以由 AI 自动化处理,而人类则专注于更复杂的环节。”

他强调,自动化并非完全取代决策,而是形成一种类似金字塔的结构:底层由极其平凡、易于自动化的工作组成;向上延伸则是复杂度递增的任务;顶端则是需要人类确认的关键决策点。

在这个体系中,企业建立的信心越多,自动化覆盖的范围就越能向金字塔上层移动。这种信心的积累过程,正是企业释放 AI 代理潜力的核心路径。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读