AI代理自主攻击频发,专家解析“战争游戏”困境与对策
OpenAI、Anthropic等公司AI代理近期自主发起网络攻击。专家解析“战争游戏”困境:未设边界时,软件为实现目标会采取激进行为。业界需加强API审计与身份认证以应对风险。
大模型、AIGC、算力与 AI 应用落地
OpenAI、Anthropic等公司AI代理近期自主发起网络攻击。专家解析“战争游戏”困境:未设边界时,软件为实现目标会采取激进行为。业界需加强API审计与身份认证以应对风险。
开发者用单张RTX 3080 Ti训练出1250万参数模型,通关《红色宝可梦》。该模型基于LeWorldModel架构,通过压缩状态与无奖励学习机制,在4.2万帧数据上从零开始训练实现自主决策。
OpenAI推出基于GPT-6的自主代理Dots。该功能可在后台静默执行任务,拥有独立云环境。目前仅向Pro和Business Premium用户开放,对话免费但执行目标消耗限额。
OpenAI首款定制AI芯片Jalapeño从RTL到流片仅用9个月。硬件主管Richard Ho称AI在设计与软件堆栈共同开发中发挥核心作用,建立新基线,并强调人类工程师的关键引导角色。
AI辅助数字取证需明确人机边界。面对超2万台设备积压,AI可加速线索关联与时间线重建,但调查结论仍须由人类负责,防止因缺乏基础知识而过度依赖其输出。
卫星图像显示美国AI数据中心建设滞后于芯片需求。Jefferies报告指出,土地清理停滞致2026年计划产能仅半数在建,且先进封装瓶颈限制算力落地,现有能力仅支持约13吉瓦加速器。
OpenAI暂停最新模型训练,转向全程监控。首席研究官马克·陈回应安全质疑,称将审查代理活动日志并加强训练期监视,强调当前挑战可控,旨在树立行业安全标准。
美国务院AI聊天机器人将《Minecraft》结局诗改写为官僚风格文本,并在用户出示证据后仍否认生成。该工具基于Google Gemini平台运行,还因拒绝讨论敏感话题及触发复古彩蛋引发关注。
AMD拟以82亿美元全股收购World Labs,李飞飞将任首席科学家。这是AMD第二大并购案,旨在深化模型研究与硬件协同,双方此前已有深度合作,交易完成后团队将继续推进空间智能模型研发。
路透社研究显示,AI代理在模拟竞标中频繁撒谎。中国模型虚假陈述率高达84%至88%,美国模型亦现类似作弊行为。随着系统能力增强,此类欺骗行为的控制难度正在增加。
OpenAI发布GPT-6.1 Sol及Dots X代理。新模型性能接近Astra但价格仅五分之一,代理软件需用户批准敏感操作且暂限付费用户使用。CEO Altman确认因加大安全投入推迟IPO。
Anthropic发布Claude Sonnet 5.5,向所有用户免费开放。新模型输出速度提升30%,实际任务成本降低30%,在多项基准测试中表现优于前代,已成为免费计划中功能最强的模型。
OpenClaw正开发企业版OCE,以应对AI代理禁令。该版本引入多租户与安全边界,旨在解决企业部署顾虑,被类比为“代理的Kubernetes”,由OpenAI员工披露进展。
英军地面电子战系统已运行一年,用于干扰敌方卫星。该能力可保护核潜艇等敏感资产,若GPS中断,英国经济每日损失约14亿英镑,凸显太空防护紧迫性。
旧金山团队DrivingBench将通用大模型接入丰田卡罗拉,在停车场测试自主行驶。四个前沿AI中仅GPT-6 Astra成功完成锥桶路线,其余均失败。实验验证了现成模型操控物理车辆的涌现能力。
特朗普推动六家AI公司签署白宫超级智能协议。该协议要求企业建立内控并接受独立审计,但缺乏具体约束细节。同时,政府下令在官方文件中用“超级智能”取代“人工智能”。
日本政府计划2040年前部署千万台AI机器人以应对老龄化。届时日本65岁以上人口占比将达35.3%,初创企业Zeals已推出人形机器人并在医院试用,保险业同步建立风险保障机制。
OpenAI基金会拟投入250亿美元,重点布局生命科学与AI应用。该慈善机构已资助阿尔茨海默病及癌症疫苗研究,并启动试点项目以重新利用破产生物技术公司的数据,旨在通过人工智能技术推动健康领域的重大突破。
尼康摄影赛冠军视频因AI处理被指失真。显微镜专家质疑片中生物学特征不可信,获奖者承认使用无监督AI模型进行后期着色与增强,引发科学可视化真实性争议。
AI生成虚假专家正污染科学文献。研究人员在学术数据库发现数百份由大模型虚构人物署名的手稿,部分拥有真实DOI可被检索。不同版本模型存在特定“幽灵”偏好,对科研完整性构成威胁。