目录 一、引言1.1 背景和重要性1.2 卷积神经网络概述 二、卷积神经网络层介绍2.1 卷积操作卷积核与特征映射卷积核大小多通道卷积 步长与填充步长填充 空洞卷积（Dilated Convolution）分组卷积（Grouped Convolution） 2.2 激活函数ReLU激活函数优势与劣势 Leaky ReLUSigmoid激活函数优势与劣势 Tanh激活函数优势与劣势 Swish激活函数其他激活...

PyTorch深度学习实战——使用卷积神经网络执行图像分类 0. 前言1. Fashion-MNIST 数据集图像分类2. 模型测试相关链接 0. 前言 我们已经在《卷积神经网络详解》一节中介绍了传统神经网络在面对图像平移时的问题以及卷积神经网络 (Convolutional Neural Network, CNN) 的工作原理。CNN 的关键思想是通过卷积操作来提取输入数据中的特征，并使用池化操作进行降采...

AI学习目录汇总 1、从全链接层到卷积 1.1 卷积 我们在前面学习的多层感知机中，已经认识了全链接层，缺点很明显，在稍微大点的网络模型中，参数成指数级别增长。参数量很快就达到数十亿，这样的量级几乎无法计算。为此科学家们想出一个减少参数的方法：卷积。 从全链接层到卷积的推论，使用如下两个原则： 平移不变性（translation invariance）：不管检测对象出现在图像中的哪个位置，神经网络的前面几层...

本文分享自华为云社区《基于卷积神经网络的MAE自监督方法》，作者： Hint 。图像自监督预训练算法是近年来的重要研究方向，MAE是其中基于ViT实现的代表性方法，学习到了鲁棒的视觉特征。MAE全称是Masked Autoencoders,是由何凯明提出的自监督预训练方法，借鉴了BERT的预训练任务，将输入图片的patch以较大的比例进行mask，并通过非对称的ViT编码解码器结构，进行masked pat...

构建卷积神经网络 卷积网络中的输入和层与传统神经网络有些区别，需重新设计，训练模块基本一致 全连接层：batch784，各个像素点之间都是没有联系的。 卷积层：batch12828，各个像素点之间是有联系的。 import torchimport torch.nn as nnimport torch.optim as optimimport torch.nn.functional as Ffrom ...

我们提出了一种简单但功能强大的卷积神经网络结构，该模型在推理时类似于VGG，只有3×3的卷积和ReLU堆叠而成，而训练时间模型具有多分支拓扑结构。训练时间和推理时间结构的这种解耦是通过结构重新参数化技术实现的，因此该模型被命名为RepVGG。在ImageNet上，RepVGG达到了超过80%的TOP-1准确率，据我们所知，这是第一次使用普通模型。在NVIDIA 1080Ti GPU上，RepVGG型号的运行...

论文地址：https://arxiv.org/pdf/2208.03641v1.pdf 代码地址：https://github.com/labsaint/spd-conv 卷积神经网络(CNN)在图像分类、目标检测等计算机视觉任务中取得了巨大的成功。然而，在图像分辨率较低或对象较小的更困难的任务中，它们的性能会迅速下降。 这源于现有CNN体系结构中一个有缺陷但却很常见的设计，即使用strided convo...

《PP-LCNet: A Lightweight CPU Convlutional Neural Network》 论文地址：https://arxiv.org/abs/2109.15099 代码地址：https://github.com/ngnquan/PP-LCNet 我们提出了一种基于MKLDNN加速策略的轻量级CPU网络，名为PP LCNet，它提高了轻量级模型在多个任务上的性能。本文列出了在延迟几...

卷积神经网络的剪枝及其在嵌入式视觉系统中的应用 摘要 在过去的十年里，计算机视觉的最新技术一直是由深度神经网络，特别是卷积神经网络所控制的。无论是分类、语义分割还是目标检测，神经网络现在都是一个无可争议的首选。因此，它们现在被认为是许多工业应用的必要条件，如自动驾驶。这就是为什么许多公司，如斯坦兰蒂斯公司，现在表现出使人工智能成为他们未来活动的关键部分的新野心的原因。 不幸的是，神经网络令人印象深刻的性能带来...

深度学习笔记之卷积神经网络——卷积示例与池化操作 引言卷积神经网络：卷积层卷积层的计算过程 池化层描述池化层的作用——降低模型复杂度，防止过拟合池化层执行过程池化层代码示例 池化层的作用——平移不变性卷积加池化作为一种无限强的先验池化层的反向传播过程 引言 上一节介绍了卷积的另一特点——筛选数据特征。并通过神经网络的反向传播过程，我们能够对卷积核内的参数进行更新，得到从数据中提取到更优质特征的卷积核。 本节...