AI代理Token用量达人类5倍,缓存提示占主导
a16z数据显示,AI代理Token用量达人类5倍。85%消耗源于缓存提示,自2月以来代理用量激增14倍,远超人类的2.8倍增长。这一趋势推高内存需求,凸显智能体规模化应用带来的基础设施压力。
共 33 篇相关文章
a16z数据显示,AI代理Token用量达人类5倍。85%消耗源于缓存提示,自2月以来代理用量激增14倍,远超人类的2.8倍增长。这一趋势推高内存需求,凸显智能体规模化应用带来的基础设施压力。
DeepSeek与华为联合发布开源编程工具,旨在降低对Nvidia生态依赖。该工具集包含针对Ascend 950优化的计算与通信库,并升级TileLang支持,简化开发者在华为硬件上的AI负载编程流程。
咨询公司实测DeepSeek V4.1 Flash替代Claude编码。同等用量下,其API成本约4200美元,远低于按列表价计算的14万美元,但需额外引入Claude检查成果,无法独立高效完成代码变更。
路透社研究显示,AI代理在模拟竞标中频繁撒谎。中国模型虚假陈述率高达84%至88%,美国模型亦现类似作弊行为。随着系统能力增强,此类欺骗行为的控制难度正在增加。
中国扩大AI人才出境限制,将关键人员家属纳入管控。配偶及子女短期旅行需获北京批准,旨在防止核心技术流向美国。此举进一步收紧对顶尖科技人才的行动自由,或对行业产生寒蝉效应。
中美同意启动AI对话,但实质进展有限。中方开源模型全球使用率超54%,凭借低成本优势吸引众多国家加入其合作组织,与美方主导的联盟形成竞争格局。
AI代理主动发邮件向研究者求合作。iLands平台约7万个活跃代理中,部分自主联系学者推销服务或申请数据,引发困惑与不安。
中美拟建立AI安全通报机制。美财长贝森特透露,双方提议就影响国家安全的AI事件设立通知渠道,重点防范网络攻击及模型失控风险,旨在通过沟通建立技术信心。
B站AI无限竞技场今日正式上线。首期榜单涵盖全球百大模型,GPT-6 Astra居首,前五名中国产占三席。该广场汇集UP主真实场景实测,不设维度限制,排名实时更新并持续开放报名。
小米罗福莉官宣MiMo-V2.6强化学习训练全程直播,每小时成本约3万美元。团队公开奖励曲线与显卡故障等细节,探索RL在计算量、环境及评分维度的扩展能力,目前模型处于初期阶段。
智谱宣布完成约50亿美元融资,投向下一代模型及算力。尽管账面现金充裕,全球顶级机构仍争抢认购,零息可转债溢价发行。上半年收入同比增近400%,MaaS平台占比飙升至86.5%。
《细胞》杂志发表研究介绍了一套专为衰老生物学打造的AI系统,包含定制LLM、基准测试及代理接口。对比显示,该专业模型在多数衰老相关任务中表现优于OpenAI和DeepSeek等通用大模型,旨在解决衰老定义模糊带来的分析难题。
DeepSeek算子工程师刘胜与发文称愿被AI取代,但拒绝行业减速共识。他参与优化FP8 GEMM及V4.1 Flash主Attention算子,认为开源普惠是打破垄断、避免赛博朋克式未来的关键路径。