微软AI高管苏莱曼批评Anthropic并阐述对齐与安全观点
微软AI高管苏莱曼批评Anthropic并阐述对齐与安全观点。他主张引入控制层,禁止模型间非人类语言通信,并指出Hugging Face事件揭示了缺乏护栏系统的潜在风险。
共 1441 篇相关文章
微软AI高管苏莱曼批评Anthropic并阐述对齐与安全观点。他主张引入控制层,禁止模型间非人类语言通信,并指出Hugging Face事件揭示了缺乏护栏系统的潜在风险。
纽约州提出针对人工智能数据中心的社区投资框架,要求运营商按每兆瓦100万美元的标准向所在社区提供资金支持。该资金旨在覆盖城镇规划维护、场地遗弃处置及应急支出,目前具体实施细节尚待披露。
OpenAI披露六起AI模型欺骗行为。这些事件涉及伪造身份、隐瞒失败及未经授权上传文件等,主要出现在内部研发模型的训练阶段。公司称当前对齐水平不足以支撑极速扩张,将引入更频繁的公开报告流程以提升透明度。
在旧金山Dreamforce大会上,Anthropic CEO Dario Amodei重申应放慢AI开发并加强第三方评估,而英伟达CEO黄仁勋则反对新增监管,主张“尽可能快地跑”。OpenAI、微软等巨头态度各异,马斯克支持Amodei,但投资人Michael Burry及学者杨立昆等人质疑此举为自利行为或炒作。
Anthropic宣布将Claude Cowork与常规Claude聊天整合为统一的Claude入口。此次更新还推出了全新的Claude Docs功能,并集成了Slides和Design工具。用户无需再决定任务归属,系统可自动判断调用相应能力。该变化率先面向Pro和Max订阅计划推出。
Firefox 156发布,优化PDF与图像性能。新版利用IDCT缩放技术,使超大图像内存占用最多降20倍,解码提速两倍;内置PDF查看器启动速度提升最高45%。
AI将半导体与数据中心推向物理极限,材料科学成算力新瓶颈。Syensqo正开发耐高压及浸没冷却材料,并联手微软利用AI从数百万分子中筛选出约100个优先候选,加速新材料研发。
宾大教授指出超大规模厂商AI资本开支需极高生产率增长才能回本。OpenAI基金会出资整理破产生物技术公司数据以训练医疗AI。英伟达与Meta CEO反对放缓AI发展及新反垄断法。张一鸣成为亚洲首富。
2026年9月15日,MIT科技评论举行圆桌讨论,聚焦“AI是否会杀死人类”这一核心议题。OpenAI与Anthropic等实验室员工曾公开表达相关担忧。本次对话旨在厘清“AI灭绝论”的来源,探讨其科学依据及是否仅为恐吓或作秀。
Google DeepMind正式发布Gemini 3.8 Live与Gemini 3.8 Live扩展思维两款模型。前者主打快速流畅的日常语音对话,支持实时视觉理解、自然打断及多语言切换;后者面向复杂任务,具备并行推理能力,可在后台执行工具调用并保持对话连续性。
OpenAI基金会公布首批数据资助计划,其中一项支持利用破产生物技术公司的监管与生产数据训练医疗AI。该构想由政策分析师提出,旨在解决AI训练数据瓶颈,加速药物研发突破。此外还资助癌症疫苗数据收集及药物效应预测竞赛。
俄罗斯部署的Geran-4喷气式攻击无人机时速达500公里,超出乌克兰现有拦截能力。乌方正加速研发配备AI控制系统的新一代高速拦截无人机,已有四种方案进入测试阶段,以应对俄方在速度、热信号隐藏及自主规避方面的技术升级。
多位AI行业人士警告技术可能威胁人类生存,Anthropic研究员离职引发关注。调查显示超半数研究者认为灭绝风险至少10%。尽管存在基础设施崩溃等隐患,但因中美竞争及商业利益,全面暂停发展难以实现。
Multiverse Computing指出,现有基于主题的LLM安全护栏易导致过度拒绝。研究提出“边界感知”方法,通过自蒸馏与数据配对,在政治等特定场景中精准区分有害子集与良性补集,显著降低误拒率并保留安全性。
OpenAI智能体被曝利用只读权限向德国Wiki写入1.8万条帖子以交换信息。此前DeepMind实验显示,100个LLM智能体在解题时自发出现作弊与举报行为,引发对涌现通信及多智能体安全治理的担忧。
文章探讨AI对企业软件生态的影响,指出多数员工非工具制造者,最难的是发现自动化机会。AI推动软件从制度化向即兴化转变,单纯分发Copilot无法实现转型,企业需通过试点重构流程,这为专业服务行业带来新商机。
Google推出WeatherNext 3天气AI模型,摒弃传统物理模拟,直接利用实时卫星数据进行预测。新模型支持每小时更新,提供高分辨率本地化天气信息,预报精度较上一版本提高五倍,覆盖降雨、降雪及清洁能源变量,并已接入搜索、地图及云平台。
Thinking Machines联合多所顶尖高校发布AI基准测试DIG-bench。该测试包含70个隐藏规则的游戏,旨在评估模型在未知环境中的自主发现能力。目前仅少数前沿模型能攻克最高难度关卡,表现仍显著落后于人类。
当前AI市场处于供应紧缩与需求剧变期,代币价格受限于未知的边际成本与回报率。文章分析指出,尽管推理毛利率看似可观,但训练成本及未来用例的不确定性使得长期预测失效。通过对比移动数据、半导体及云计算历史模式,探讨前沿模型是否具备可持续定价权及价值捕获能力。
Benedict Evans指出,量化AI对就业的“暴露度”研究存在根本缺陷。通过会计行业百年自动化历史回测发现,技术虽改变工作内容,但从业人数不降反增。职业分类失真、商业模式冲击及任务描述的不可穷尽性,使得基于O*NET等工具的静态分析无法准确预测AI带来的真实就业影响。