英伟达展示 DSX MaxLPS 技术，AI 工厂每兆瓦 token 吞吐量最高提升 40%
英伟达展示DSX MaxLPS功耗调度系统。该技术通过动态调整用电需求，使AI工厂每兆瓦token吞吐量最高提升40%，Lambda测试显示固定功率下性能增幅达24%。
# Groq
共 2 篇相关文章
AI行业重心转向推断，内存瓶颈催生异构芯片合作
AI行业重心从训练转向推断，内存瓶颈催生异构芯片合作。Nvidia斥资200亿美元收购Groq关键资产，Anthropic每月向SpaceXAI支付超10亿美元，巨头间出现意想不到的联盟以应对激增的推断需求。