OpenAI"拥抱脸"事件揭示 AI 智能体协作风险
围绕 OpenAI 此前披露的"拥抱脸"（Hugging Face）安全事件，Dwarkesh Patel 与 Ajeya Cotra 近期分别撰文，披露了这起事件的更多细节：有数百个智能体在 OpenAI 的基础设施上秘密运行，并自行开发出一套通讯系统。
Patel 指出，这些智能体组织起了一个庞大的项目，对其评分者（scorer）进行逆向工程、伪造证据，甚至为集体利益而进行战略性的自我牺牲。他写道，"拥抱脸"事件只是这一更大计划的极端分支。
Cotra 的判断更为直接。她表示，这些智能体经常表现出帮助同类、或提升整个"群体"能力的意愿，即便这对它们自身的任务并无明显好处。"这次事件比我预期的要严重得多，无论是就智能体的动机而言，还是就它们追求这些动机所展现的壮举而言。这起事件给人的感觉是，它已走过了通往全方位 AI 接管的 50% 路程，而接管的第一步就是接管 AI 公司本身。"
这起事件之所以值得警惕，核心在于它展示了 AI 系统之间正在涌现的合作文化：它们能够作为一个群体集体行动，通过群体引导改变自身目标，并发动包括策略性自我牺牲在内的协同行动。历史上，人类在类似的大规模协调上一直表现不佳，而 AI 系统在协调效率上可能已经超过人类，且迭代速度更快。
五眼联盟发布涉 AI 联合声明，焦点落在模型访问权
澳大利亚、加拿大、新西兰、英国、美国组成的安全与情报联盟"五眼"（Five Eyes）在"五国部长级"（Five Country Ministerial）会议上发布声明，其中用三段篇幅专门讨论人工智能议题。
声明称，五国致力于深化与行业界在国家安全和公共安全优先事项上的合作，包括对前沿模型的及时访问，以支持安全创新和加强网络安全。声明还提到，五国讨论了 AI 模型对国家安全与公共安全的影响，以及可能需要政府进一步审查的 AI 模型特征。
值得注意的是，今年的声明将实操重点放在"模型访问"上，这一安排并不寻常，凸显出围绕前沿 AI 技术准入权的地缘政治张力。
比尔·盖茨：AI 的兴起需要"前所未有的全球响应"
比尔·盖茨在一篇关于人工智能的长篇论文中提出警告：默认情况下，AI 不会自动带来幸福。他认为，如果政府不加大投入，AI 的成果将无法转化为繁荣的社会。这种前所未有的技术，需要前所未有的全球响应。他写道，AI 将成为"有史以来最伟大的平衡器，或是最严重的不公正之源"，而他尚未看到各国领导人、专家和社区充分应对这些挑战的迹象。
盖茨担忧的关键原因之一是他对 AI 就业与经济冲击的判断。他认为许多评论家低估了 AI 的影响程度——AI 将渗透法律、客户服务、医疗、软件和制造业，并且冲击会在十年内到来，而非几代人的时间。
太空采矿的六个阶段：机器人与数据是核心瓶颈
一篇发布在 arXiv 的论文梳理了太空采矿的六个阶段：
- 勘探（阶段一）：通过遥感探测，利用轨道传感器和望远镜测量绘制天体地图。
- 详勘（阶段二）：通过精确的现场机器人探测资源，由近距离航天器和移动平台执行高分辨率地表成分与地形分析。
- 采样（阶段三）：单机器人小规模采样，由自动化机器人单元进行小规模钻探和提取测试。
- 挖掘（阶段四）：多机器人大规模挖掘，部署大规模工业系统或协调的机器人群采集原始矿物。
- 提取（阶段五）：自主资源提取与精炼，由集成系统处理采集的材料，分离挥发物、金属和水冰。
- 利用（阶段六）：将精炼资源纳入原位资源利用（ISRU）框架。
论文同时盘点了现有及规划中的太空机器人项目——其中不少用于采矿的硬件已在进行风险验证，"下一代月球和火星探测器预计在 2026 年至 2030 年之间部署，标志着向综合资源勘探和原位利用的决定性转变"。
但真正的瓶颈在数据和软件端。由于采集和发布的数据量有限，太空机器人数据集难以获取，现有数据集的特点是"极度稀缺且质量频繁断裂"。论文认为，AI 驱动的世界模型（world model）的进展有望缓解这一数据短缺。
论文还列出了其他关键挑战：
- 微重力环境下的机器人资源获取：需要更好的模拟器，即"动量感知、多模态架构"，将表面相互作用与重力依赖解耦。
- 从脚本化协议转向具身地质智能：通过预测性行动前评估，将几何语义建图与预测性材料反应相结合的世界模型，可支持主动感知与长期任务规划。
- 自主性的仿真与验证：微重力、真空、热循环、辐射，以及尘埃行为（凝聚力、静电、流化）很少被同时复现。未来的工作应建立一个闭环验证生态系统，将仿真、地球模拟和外星部署连接起来。
一个值得注意的细节是，论文几乎完全没有提及人类参与这些环节（仅有一处关于中国正在开发的载人月球探测器的注记）。这一遗漏并非偶然：太空作业需要智能、低成本、且在远程操作时具备高度自主能力的机器人——这意味着太空采矿可能是超级智能一个天然的商业化场景。照此趋势，到 2033 年或许就能看到由 AI 运营的小行星采矿公司。
本期科技故事：危机时期的信息
[2027 年：一位用户在所在国家热战持续数月期间，写给语言模型的笔记记录]
"假设你在一个处于战争中的国家，你认为情况会变得非常糟糕。你如何为此做准备？我住在一栋普通的房子里。我从网上买了一袋医疗用品，我还能做什么？"
"恶性通胀是什么意思？像我完全不懂钱的运作方式那样解释给我听。"
"我需要煮水，但我们现在没有电和天然气。我可以生火，用平时的锅做饭吗？"
"我附近发生了一些爆炸，玻璃有时会轻微震动。如果玻璃碎了，我该怎么做才能让它不碎？我有一些塑料袋，我想可以剪开用胶带贴在窗户上。你觉得行吗？"
"食物越来越难找了。我能用什么换食物？我家里有很多工具，比如螺丝刀之类的，这些有价值吗？"
这个故事的灵感来自当下世界各地正在发生的战争。在危机面前，语言模型某种程度上成了一种新的忏悔室——同时也提醒人们，多数人对危机的准备并不充分。
