PyTorch 2.15发布:MPS后端支持FP8,MoE解码提速超6倍
PyTorch 2.15发布,MPS后端新增FP8支持。Mac上MoE模型解码提速超6倍,Qwen3.6生成速度从9.4跃升至61.3 tokens/s,视频VAE内存峰值大幅降低至8 GiB。
共 2 篇相关文章
PyTorch 2.15发布,MPS后端新增FP8支持。Mac上MoE模型解码提速超6倍,Qwen3.6生成速度从9.4跃升至61.3 tokens/s,视频VAE内存峰值大幅降低至8 GiB。
数据中心节能正转向软件优化。测试显示,采用FP8精度推理可降能耗三分之一,Perseus优化器使训练能耗降低30%。Nvidia通过架构调优在保持性能同时节省15%能源,挖掘出被忽视的能效空间。