其他分享
首页 > 其他分享> > tensorflow模型剪枝,通过model_pruning

tensorflow模型剪枝,通过model_pruning

作者:互联网

https://blog.csdn.net/lai_cheng/article/details/90643100#commentBox

模型训练时剪枝,只需选定需要剪枝的层,对于选中做剪枝的层增加一个二进制掩模(mask)变量,形状和该层的权值张量形状完全相同。该掩模决定了哪些权值参与前向计算。掩模更新算法则需要为 TensorFlow 训练计算图注入特殊运算符,对当前层权值按绝对值大小排序,对幅度小于一定门限的权值将其对应掩模值设为 0。反向传播梯度也经过掩模,被屏蔽的权值(mask 为 0)在反向传播步骤中无法获得更新量。

标签:剪枝,模型,mask,反向,权值,掩模,tensorflow,model
来源: https://blog.csdn.net/haoshan4783/article/details/97146732