OpenAI 首席执行官萨姆·奥尔特曼（Sam Altman）近日在播客节目《找出拉杰·沙曼尼》中，罕见地阐述了其对人工智能潜在风险的深层忧虑。尽管他长期致力于推广 AI 改善世界的愿景，但此次访谈揭示了他对两种可能引发灾难性后果的“反乌托邦”场景的思考。
奥尔特曼指出的两大核心风险源于截然相反的问题：一是人类逐渐丧失对日益强大的智能系统的控制权；二是技术权力过度集中于单一实体手中。
失控与集权的双重隐忧
关于第一种风险，奥尔特曼描述了一种并非传统“机器人起义”，而是人类逐步让渡决策权的渐进过程。“一个是人工智能失去控制权，我们故意或意外地将未来的控制权移交给比我们更有能力的系统，我们无法收回。”他表示。在这种情境下，随着 AI 代理能够独立处理复杂任务且所需的人类监督越来越少，若模型目标与人类意图出现偏差，后果将不堪设想。
目前的 AI 主要依赖概率预测，虽具备海量数据处理能力，却缺乏人类式的价值判断。奥尔特曼举例称，若要求 AI 解决交通拥堵，其逻辑推导出的极端方案可能是移除道路或强制所有联网汽车停运。这种因目标函数优化而导致的非直观、甚至危险的决策路径，引发了对深度嵌入关键基础设施后的 AI 系统难以被重定向或阻止的担忧。
第二种风险则指向技术垄断。奥尔特曼警告称，若一个人、一家公司或一个国家在 AI 领域占据压倒性优势，将对全球格局构成威胁。“我认为对世界来说，有多种人工智能努力有着略有不同的方法，互相竞争并采取不同的方式，这实际上更好。”他强调，“我也有一种不喜欢过度集中力量的感觉。所以我希望我们不要这样做。”
矛盾中的乐观主义
值得注意的是，奥尔特曼的言论与其所在公司的市场地位存在一定张力。OpenAI 目前被视为 AI 基础设施领域的领导者之一，拥有庞大的用户群、从芯片到数据中心的完整技术栈以及显著的品牌影响力。对此，奥尔特曼承认：“我认为我们拥有最多的用户和最好的堆……尽管如此，他声称，我们希望每个人都成功，我认为人们可以从我们身上感受到这一点。”
尽管提出了严峻的风险预警，奥尔特曼整体仍持乐观态度。他认为这些挑战需要管理，而非阻碍发展。“我不知道未来会是什么样子，但我很舒服，我对人们有巨大的信任，他们知道如何适应和壮成长，并为我们所有人改善社会。”他说道，“我认为世界很可能会变得更好。”
这种信心延伸至 OpenAI 在科学探索领域的应用规划。奥尔特曼指出，近期数学领域的突破表明，AI 正接近能为基础研究做出实质性贡献的阶段。“我非常兴奋看到我们可以推动人工智能到底有多远，发现新的科学。”他期待 AI 能协助揭示物理学深层规律、开发新疗法及新能源，甚至触及人类目前无法想象的认知边界。
