据彭博社报道，Meta CEO马克·扎克伯格(Mark Zuckerberg)周二表示，AI实验室应当依靠独立评估方和顾问来确保模型的安全。扎克伯格在周二加入了越来越多科技高管的行列，就如何最好地防止AI系统危害人类这一全球性辩论发表看法。
扎克伯格
“引入独立评估方和顾问是行业最佳实践。”扎克伯格在X平台上发帖写道。他指出，总的来说，拥有一个更大、更多元化的评估方生态会有帮助。
扎克伯格表示，关于是否应放慢AI能力发展、等对齐技术跟上，目前有很多争论。他的观点是，信任和对齐正在迅速成为区分智能体和模型的最重要能力。任何不重视对齐的实验室都会落后。对齐指的是让AI做事方式与人类利益一致。
扎克伯格的帖子
眼下，一些公司高管已表态支持放慢AI发展速度，并主张合作达成共识。扎克伯格写道，Meta决定自行放慢Muse AI工具的开发工作，而不是先要求同行也检查各自的进展。
“Meta把Muse的发布推迟了数月，以专注于安全与保障，”他写道，“我们并没有要求其他所有人先这样做，然后自己才跟进。我们只是把它作为日常工作的一部分去做了，因为这对用户、对我们来说显然都是正确的选择。”
扎克伯格认为，将绝大部分算力用于服务人们，而不是竞相推动AI的递归自我改进，是确保安全发展这项技术的最佳方式之一。Meta已经作出这一承诺，其他实验室也可以这么做。
上周末，Anthropic CEO达里奥·阿莫代伊(Dario Amodei)的一篇3800字文章，令围绕AI经济与安全风险的激烈辩论进一步升温。他在文中呼吁放慢最先进系统的开发速度，以便研究人员更好地理解潜在威胁。阿莫代伊的这一呼吁得到了OpenAI CEO萨姆·奥特曼(Sam Altman)和SpaceX CEO埃隆·马斯克(Elon Musk)的罕见支持。
对文章打分
扎克伯格发声：AI安全应靠独立评估 而非集体减速
1 (50%) 1 (50%)最新资讯
加载中...编辑精选
加载中...相关文章
-
前研究员批评Anthropic：挑起竞赛 逼得OpenAI砍副业
- 5 分钟前
-
OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底
- 半小时前
-
OpenAI首席执行官Altman“有信心”AI行业能够自行保障安全
- 6 小时前
-
研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类
- 9 小时前
-
台积电COO：AI像三岁超人 在尖端芯片设计上不太实用
- 昨天 21:02
Top 10
本周 本月-
苹果正式发布iPhone 18 Pro系列 强化系统级端侧AI 售价小幅调高
阅读 (1593) 评论 (0) -
苹果iPhone Duo亮相 正式进军折叠屏领域 售价1999美元起
阅读 (1307) 评论 (0) -
Anthropic指控中国多家AI公司大规模蒸馏 阿里巴巴、月之暗面和DeepSeek被指涉数千万次交互
阅读 (1147) 评论 (5) - 苹果发布Apple Watch Series 12与Ultra 4：全天候心率监测升级
- 首都禁飞区将于9月20日启用 北京全市禁飞无人机且不得持有、存放、运输、携带
- 32天就下架 DeepSeek为何对自家旗舰下狠手
- iOS 27正式版定于9月14日面向全球推送 iPhone 11以上机型可升级
- 张小泉AI演示视频被质疑虚假宣传：剪刀丝滑剪断排骨、鸡腿骨
- 罗永浩评苹果折叠屏iPhone Duo：全是抄的 折痕处理是“屎上雕屎”
- 苹果发布AirPods 5耳机 搭载实时翻译与更强续航
-
新研究发现母亲生育年龄影响后代的身体特征、寿命以及行为表现
阅读 (3448) 评论 (0) -
苹果正式发布iPhone 18 Pro系列 强化系统级端侧AI 售价小幅调高
阅读 (1601) 评论 (0) -
时隔多年 摩拜299元押金可全额退了
阅读 (1501) 评论 (1) - OpenClaw 2.0正式发布 一次简化安装的尝试最终重塑整个产品
- 马斯克变性女儿床上大战机器人引热议
- 男子听信AI抄近道结果被困深山 事后质问AI竟回答：早走成熟线路就好了
- 中国科学家公布800座“飞翼”客机方案 或重新定义商业航空
- 苹果iPhone Duo亮相 正式进军折叠屏领域 售价1999美元起
- 倒数日·Days Matter Android版年度重大升级：透明相机+倒数日历+事件库
- MacBook Pro用户为了免费换电池试图将电池健康度降至79% 却以失败告终