# 深度剪枝

共 1 篇相关文章

Multiverse用伊辛模型优化LLM深度剪枝

Multiverse将LLM深度剪枝转化为伊辛模型优化问题。该方法利用自旋系统能量预测性能,无需运行基准测试即可排名候选配置。在Llama-3.3-70B上实现50%压缩时,MMLU得分提升近23个百分点。