前 OpenAI 董事 Helen Toner：信任机制破裂与 AI 治理的现实困境
乔治敦大学安全与新兴技术中心（CSET）执行主任海伦·托纳（Helen Toner）近日接受媒体采访，深入探讨了人工智能安全、监管挑战以及行业内部的动力机制。作为曾在 OpenAI 董事会任职并参与投票解雇首席执行官 Sam Altman 的关键人物之一，托纳对当前 AI 行业的治理结构有着独特的视角。
CSET 的角色与政策影响力
CSET 成立于 2019 年，是乔治敦大学旗下的一个研究团队，拥有约 50 名成员。其核心使命是为国家安全领域的决策者提供基于技术事实且具备可操作性的严格分析。尽管外界常质疑政府机构在科技认知上的滞后性，但托纳指出，华盛顿的游说者不仅代表公司立场，也承担着教育者的角色。通过与国会工作人员及行政部门的合作，独立研究机构能够填补信息鸿沟。
托纳强调，虽然美国选举周期中资金对政治的影响巨大，但在人工智能治理议题上，两党均表现出对高质量信息的渴求。数据显示，选民对 AI 问题的关注度日益上升，这使得监管机构更倾向于听取来自非营利研究机构的建议，而非单纯依赖企业游说。
从“突发事件”看问责机制失效
回顾 OpenAI 董事会曾试图解除 Sam Altman 职务的事件（被称为“突发事件”），托纳认为这暴露了非营利董事会在确保公司不背离“建立安全人工智能”这一使命时的结构性缺陷。当董事会试图行使监督权时，问责机制未能有效运作。如今 OpenAI 已完成全面重组，但这一历史教训提醒业界：如果未来的希望仅寄托于个别领导者的可信度，风险将不可控。
递归自我改进（RSI）与超级智能愿景
针对 OpenAI 和 Anthropic 等前沿实验室的目标，托纳指出，这些公司的初衷并非成为消费者互联网公司，而是致力于制造超越人类智能的机器。这一愿景植根于“递归自我改进”（RSI）的概念——即人工智能系统通过构建下一代更聪明的系统来实现指数级进步。该理论可追溯至 20 世纪 60年代 I.J. Good 与艾伦·图灵的相关讨论。
DeepMind 首席执行官 Demis Hassabis 近期表示“我们正处于奇点的山脚下”，意指 AI 研发管道正逐渐由 AI 自身加速。尽管许多外部观察者对此持怀疑态度，但公司内部研究人员普遍相信这一路径的可行性。托纳认为，理解这种长期愿景对于评估当前技术进展至关重要。
AGI 定义的模糊性与术语重构
关于通用人工智能（AGI）是否已经实现，托纳持保留意见。她认为 AGI 是一个模糊的概念集合，随着技术发展，不同定义已被部分满足。例如，ChatGPT 的多任务处理能力已符合某些基础定义，但这并不意味着实现了具备意识或完全超越人类的超级智能。
OpenAI 总裁 Greg Brockman 曾宣布新版本模型 Astra 达到 AGI 水平，但托纳主张摒弃这一笼统术语，转而使用更具体的指标来描述能力边界。目前，关于 Claude 等模型是否具有意识的问题仍属于未解决的科学难题，混淆“意识”与“自主行动能力”可能导致错误的监管判断。
监管差距与技术复杂性
托纳承认，监管机构与技术发展之间存在显著差距。尽管 2023 年后国会曾出现关注 AI 的热潮，但实质性立法进展缓慢。然而，她反对“政府无法跟上步伐”的悲观论调，指出许多国会工作人员具备相当的专业素养，只是缺乏足够的时间资源去深入理解复杂的技术细节。
随着 Nvidia CEO Jensen Huang 辞职传闻及相关调查的展开，地缘政治因素进一步加剧了 AI 政策讨论的复杂性。托纳呼吁，面对诸如中国可能采取的行动或其他极端场景，决策者应保持严肃态度，既不视其为科幻，也不忽视潜在风险，需为多种突发情况做好准备。
