目录 简述 理解梯度 什么是梯度 计算梯度 简述 在深度学习神经网络中，反向传播是一种用来训练神经网络的常用方法。它通过计算损失函数对于网络参数的梯度，然后使用梯度下降算法更新参数，以降低损失函数的值。 梯度表示了函数在某一点上的变化率和方向，对于神经网络而言，梯度表示了损失函数对于网络参数的变化率和方向。在反向传播过程中，首先通过前向传播计算出网络的输出和损失函数的值，然后利用链式法则逐层计算参数的...

一、初始化方式 在常见的CNN深度学习模型中，最常出现的是Conv卷积和BatchNorm算子。 （1）对于Conv卷积，权重初始化的方式有‘normal’，‘xavier’,‘kaiming’,‘orthogonal’ 以‘normal’方式为例：对Conv卷积的weight通常是以均值为0，标准差为0.02的正态分布进行参数初始化 （2）对于BatchNorm算子，通常是使用‘normal’方式...

来，Edge//surf将成为Edge浏览器的重要发展方向，为用户带来全新的浏览体验。 总之，Edge浏览器作为一款功能强大、安全稳定的浏览器，拥有众多实用的功能和技巧，可以帮助用户优化浏览体验。通过深度探索Edge浏览器的各种功能，相信您可以更好地利用Edge浏览器，享受更加愉快的上网体验。...

一、代码 import configimport torchimport numpy as np device = 'cpu'# ------------------------------------------------------## 创建你的模型# ------------------------------------------------------#model = Yo...

深度学习基础——卷积神经网络的基础模块 卷积神经网络（Convolutional Neural Networks，CNN）是深度学习中一种非常重要的神经网络结构，它在图像识别、图像分类、目标检测等领域取得了巨大成功。本文将介绍卷积神经网络的几个基础模块，包括批归一化、全局平均池化、瓶颈结构和沙漏结构。我们将首先对这些基础模块进行概述，然后介绍其概念及公式，并通过Python实现示例代码进行可视化展示...

深度学习基础——卷积神经网络的感受野、参数量、计算量 深度学习在图像处理领域取得了巨大的成功，其中卷积神经网络（Convolutional Neural Networks，CNN）是一种非常重要的网络结构。本文将介绍卷积神经网络的三个重要指标：感受野、参数量和计算量。首先，会对这些指标进行定义，然后介绍如何计算它们，并通过Python实现示例代码进行可视化展示。 1. 定义 1.1 感受野（Rece...

1.表示子空间        在深度学习中，“不同的表示子空间”通常是指模型通过不同的参数（例如权重矩阵）将输入数据映射到不同的高维空间，这些空间被称为表示子空间。每个子空间都能够捕获输入数据中不同的特征或模式。以下是一些详细解释： 1. 特征表示：        在机器学习中，特征表示是指数据在某个空间中的表示形式。一个模型的目的是找到一个良好的特征表示，使得数据中的模式和关系能够被容易地识别和利用...

tensor(6.), tensor(1.5000), tensor(9.)) 1.2 向量 向量泛化自标量，可以被视为标量值组成的列表，相当于把标量从零阶推广到一阶，这些标量值被称为向量的元素。 在深度学习中，使用一维张量表示向量，可以理解为一维数组。 使用下标来引用向量的任一元素。向量的长度通常称为向量的维度。可以通过张量的.shape属性访问向量的长度。 形状（shape）列出了张量沿每个轴的长...

要对比目录下的jpg文件与json文件，并删除那些没有对应json文件的jpg文件，这个在深度学习或者机器学习时常会遇到。比如对一个数据集做处理时，往往会有些图像不用标注，那么这张图像是没有对应的标签文件的，这个时候又不想这些没有标注的图像文件占用了空间，所以则要删除掉没有标签对应的图像文件。 步骤概述 读取目录中的文件列表：首先需要列出目录下所有的文件，通常可以通过文件系统API来实现。分离文件扩...

一、state_dict方式（推荐） torch.save(model.state_dict(), PATH) model = YourModel()model.load_state_dict(torch.load(PATH))model.eval() 记住一定要使用model.eval()来固定dropout和归一化层，否则每次推理会生成不同的结果。 二、整个模型（结构+state_dict）...