英国信息专员办公室（ICO）近日宣布，包括亚马逊、Anthropic、苹果、Cohere、DeepSeek、谷歌、Meta、微软、OpenAI 和 Stability AI 在内的十家全球主要人工智能开发商，已同意在监管机构审查后收紧对个人数据的处理措施。这些企业承诺改进数据透明度，优化用户行使数据权利的途径，并加强开发过程中的保障措施评估。
此次监管行动源于 ICO 于 2025 年启动的一项计划，最初涉及 11 家开发商。随后，由于对埃隆·马斯克旗下 xAI 公司的 Grok 聊天机器人展开单独正式调查，ICO 暂停了与该企业的合作。尽管上述十家公司做出了承诺，但监管机构强调尚未宣告胜利，目前仍在监测各开发商是否切实履行义务。
ICO 指出，当前的人工智能训练实践在英国《数据保护法》框架下仍存在合规风险。主要挑战包括：如何解释和处理嵌入模型中的个人数据（尤其是敏感信息）、如何在模型训练完成后响应用户的删除请求，以及防范从模型中提取未打算保留的个人数据的风险。报告承认，解决这些问题需要行业、监管机构及政府之间的协作。让企业承诺改变相对容易，但要使现有的人工智能模型完全符合法律要求则更为复杂。
“人工智能拥有巨大的社会受益潜力，但这建立在信任与透明度的基础之上。”ICO 技术监管主任理查德·内文森表示，“我们与大型开发商的合作确保了实质性承诺的落地，这将帮助公众更好地理解并控制其数据的使用方式，即便是在快速演变且复杂的领域。”
与此同时，ICO 正将监管重心转向自主人工智能代理（AI Agents）。这类系统能够浏览网站、调用工具并在有限人类监督下执行任务，但部分系统存在不遵守规则的情况。在今年早些时候的测试和部署期间，ICO 已与 OpenAI、Anthropic、Meta 以及英国人工智能安全研究所取得联系。近期报道显示，此类系统的开发速度极快，若防护措施不到位，可能引发合规问题。
“我们的立场很明确：人工智能代理的自主行动不能成为不合规的借口。”监管机构表示。为此，ICO 发起了一项为期六周的证据征集活动，议题涵盖安全性、透明度、问责制及个人数据的合法使用。相关回应需在 11 月 20 日前提交，这些信息将为未来的指导方针以及 ICO 即将发布的关于人工智能和自动化决策的法定行为准则提供依据。
此外，监管机构还在单独研究消费者聊天机器人和人工智能伴侣如何利用个人信息。虽然已从多家行业巨头处获得承诺，但其实际执行情况仍有待观察。随着人工智能代理自主能力的增强，监管者面临的控制难度也在加大。
