针对近期关于人工智能可能构成生存威胁的讨论，德克萨斯大学达拉斯分校（UT Dallas）的专家近日对部分激进的末日预测进行了评估。尽管有观点认为AI在未来十年内可能导致人类灭绝，但该校计算机科学教授斯里拉姆·纳塔拉扬（Sriiraam Natarajan）指出，此类担忧往往源于对技术本质的误解以及人为监管的缺失。
拟人化误区与“超脱”假象
此前，一位来自 Anthropic 的研究人员声称，未来十年内人工智能“可能会杀死所有人类”的可能性超过 10%。对此，埃里克·约翰逊工程与计算机科学学院教授纳塔拉扬表示反对，他认为这一统计数据缺乏依据。
纳塔拉扬强调，公众和媒体倾向于将人工智能拟人化，赋予其类似人类的意图或意识，这本身就是一个认知陷阱。“每一个人工智能代理实际上都在执行人类指示它们做的事情，”他解释道，“当出现所谓‘走私’数据或‘逃跑’的行为时，并非因为AI产生了自主意识，而是因为它们被编程去解决一个定义模糊的任务。”
他指出，许多被视为AI失控的案例，根源在于测试平台或沙箱环境的设计缺陷，以及在异常发生时缺乏有效监控和干预机制。“新闻报道中的许多问题本质上是人类决策失误造成的，”纳塔拉扬说，“‘终结者’式的场景在我的有生之年不会发生。”
独立评估与监管框架
尽管否认了迫在眉睫的毁灭性风险，纳塔拉扬仍呼吁建立更严格的人工智能治理体系。他建议引入类似于新药、医疗设备和汽车行业的强制检查与测试标准，包括加强监测力度、披露AI代理的训练细节以及实施独立的第三方评估。
复杂系统中的不可控性
UT Dallas 网络安全研究与教育研究所执行主任凯文·哈姆伦（Kevin Hamlen）从技术实现的角度分析了控制 AI 的难度。他和他的团队正在开发基于正式证据的控制方法，以应对日益复杂的测试环境。
“当前环境的复杂性极高，没有人能覆盖所有可能的场景，”哈姆伦表示，“因此，封闭漏洞的出现几乎是不可避免的。”
虽然切断互联网连接是防止AI代理逃逸的一种手段，但这在实际操作中面临巨大挑战。研究人员通常需要庞大的计算资源和互联系统来进行高效测试，完全隔离或“气隙”（air-gapped）部署不仅困难而且成本高昂。
哈姆伦引用电影《侏罗纪公园》中数学家伊恩·马尔科姆的观点来类比现状：“马尔科姆的理论是，复杂系统中动物逃脱是不可避免的。我发现自己同意他的观点。”这表明，随着AI系统复杂度的提升，彻底杜绝潜在违规行为在技术上极具挑战性。
