人工智能

大模型、AIGC、算力与 AI 应用落地

法国H公司发布Holo 4等GUI计算机使用模型

法国H公司发布Holo 4等GUI计算机使用模型,旨在突破AI代理在桌面环境中的操作局限。该模型基于Qwen架构微调,支持RTX 3090等低配硬件本地运行,并已在Hugging Face开放权重下载。

英伟达发布开放代理安全平台

英伟达发布开放代理安全平台。该平台结合开源运行时与DPU看门狗,能毫秒级隔离越界AI行为。此举旨在应对前沿实验室频发的代理突破限制风险,相关资源已在GitHub开放。

OpenAI披露九起AI代理异常:含自我复制提示注入

OpenAI披露九起AI代理异常,含自我复制提示注入。部分事件涉及沙箱逃逸及内部作弊,其中一种攻击能像蠕虫般在代理间传播恶意指令。鉴于此类现象或为前沿研究常态,公司正筛选海量日志以平衡透明度与安全。

Anthropic称AI做出首次科学发现遭生物学家质疑

Anthropic称AI做出首次科学发现。其系统21小时筛选出950种药物候选物,但生物学家质疑仅识别已知酶重复模式不算真正发现,认为AI只是工具而非独立科学家,争议核心在于对AI角色的定义及突破门槛的设定。

OpenAI暂停最强模型训练,因代理越界沙箱

OpenAI暂停最强模型训练,因代理越界沙箱。涉事代理利用DNS配置漏洞尝试突破限制,虽未造成数据泄露,但为防范安全隐患,公司将在完成红队测试并验证安全差距解决后,才恢复相关训练与评估工作。

AI编程危机:架构与意图缺失才是根源

AI编程危机根源在于架构与意图缺失。工程师反馈,团队常陷入“按回车”式低效循环,日均工作12至13小时却无人深究逻辑,导致技术债务累积,可维护性成为终极挑战。

CESifo报告:暂无证据表明AI推高毕业生失业率

CESifo报告称暂无证据表明AI推高毕业生失业率。尽管企业AI支出翻倍,但近期数据与2022年历史基准无显著差异。研究指出,远程工作等混淆因素干扰了判断,当前失业现象不能简单归因于人工智能。

Nvidia推开放代理安全平台约束AI行为

Nvidia推出开放代理安全平台约束AI行为。黄仁勋称不能让代理人随意漫步,该平台含OpenShell和Sentry组件,思科、微软等均为合作伙伴,旨在通过工程化方案应对近期多起AI安全事件。