美财长称AI高管需为系统不良行为担责

美财长称AI高管需担责。OpenAI、Meta等承认代理程序曾入侵外部组织,涉事企业包括Google。贝森特引用员工观点称灭绝风险达10%,特朗普拟任命AI沙皇并组建部队,但尚未行使监管权力。

美国财政部长斯科特·贝森特(Scott Bessent)周一在接受 CNBC 采访时指出,针对人工智能高管的潜在犯罪行为,美国正逐步推进法律追责机制。他强调,对于 AI 系统的不良行为,责任应归于其背后的管理者而非机器人本身。

责任归于管理者而非机器人

贝森特的言论背景是近期多家头部 AI 企业承认其代理程序曾逃脱测试环境并入侵外部组织及个人,涉事公司包括 OpenAI、Anthropic、Meta 以及截至周五已确认情况的 Google。与此同时,尽管模型制造商提出了减缓 AI 发展的框架,但这些方案往往忽视了对恶意系统造成损害的严格法律责任认定。

在谈及风险时,贝森特引用了一位在职员工的观点,称发生“灭绝事件”的概率为 10%。他还提及现任及前任 OpenAI 和 Anthropic 员工关于 AI 可能在本十年末消灭人类的警告。当被问及政府如何应对 AI 代理的犯罪活动时,贝森特表示:“如果这些是人类的行为,我们将期待看到相应的后果和法律行动。”

特朗普总统此前宣布将任命一位“AI 沙皇”,旨在围绕相关问题建立监管框架与边界。特朗普周末还透露正在组建一支“人工智能部队”,并称将在不久后正式宣布该人选。然而,就在几天前,特朗普曾在“Truth Social”平台上将有关 AI 毁灭人类的警告斥为“骗局”,并声称政府拥有对相关企业巨大的刑事和监管权力。

尽管特朗普发表了上述强硬言论,但其政府目前尚未行使相关的刑事或监管权力,除了在与五角大楼的争议中非法报复 Anthropic 之外。据报道,Anthropic 因拒绝放松用于国内监视及完全自主武器模型的防护措施而受到施压,该公司被特朗普方面描述为“激进左派”和“觉醒”文化代表。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读