本系列博客介绍yolov5剪枝方法 1. 介绍 神经网络一般都存在过参数化(over-parameterized)的问题,存在冗余的神经元或权重,所以可以进行剪枝。 其实对网络可以针对不同的颗粒度进行剪枝，可以进行权重、神经元级别的剪枝，也可以基于channel, shape,filter以及layer级别的剪枝。 如果对element-wise级别的剪枝会导致非结构化的网络剪枝，所以我们研究的重点是结构化的剪枝方...

1. 网络轻量化相关技术 网络轻量化的相关技术分类：1. 网络剪枝(Network pruning) 2. 稀疏表示(Sparse representation) 3. Bits precision(低比特表示，比如不用浮点型，使用int量化) 4. Kownledge distillation(知识蒸馏) 2. 网络剪枝 神经网络一般都是over-parameterized,也就是说网络参数一般是冗余的，超过解决...