AWS推出Trainium模型支持查询工具
AWS Neuron团队上线模型支持查询工具,展示可在Trainium上运行的Hugging Face模型。该空间提供核心数、耗时及内存占用等数据,并附带运行脚本,目前仅覆盖Transformers文本与图像转文本任务。
共 3 篇相关文章
AWS Neuron团队上线模型支持查询工具,展示可在Trainium上运行的Hugging Face模型。该空间提供核心数、耗时及内存占用等数据,并附带运行脚本,目前仅覆盖Transformers文本与图像转文本任务。
Amazon发布TorchNeuron,让PyTorch应用一行代码迁移至Trainium芯片。针对85%的AI应用占比,AWS强调训推一体降低总成本,并推动社区移除硬件绑定逻辑,意在打破Nvidia生态封锁。
Amazon与Synopsys达成超10亿美元多年期协议。双方将深化AI芯片设计合作,涵盖IP授权、EDA工具及云计算服务,旨在加速Trainium和Graviton等自研硬件开发,优化工程流程以应对算力需求。