深度学习——第9章 项目实战：让你的神经网络模型越来越深
9.1 导入数据集 9.2 预处理 9.3 初始化参数 W 和 b 9.4 正向传播单层神经元 9.5 正向传播 L 层神经元 9.6 损失函数 9.7 反向传播单层神经元 9.8 反向传播 L 层神经元 9.9 更新网络参数 W 和 b 9.10 整个神经网络模型 9.11 模型预测 9.12 训练模型 上一课主要介绍了深层神经网络模型的结构和常用的标记方法，详细推导了深层神经网络模型的正向传播和反向...
【深度学习笔记】优化算法——AdaGrad算法
athbf{Q}}_{ii} = 1 Q~ii=1。 在大多数情况下，这大大简化了条件数。 例如我们之前讨论的案例，它将完全消除眼下的问题，因为问题是轴对齐的。 遗憾的是，我们还面临另一个问题：在深度学习中，我们通常情况甚至无法计算目标函数的二阶导数：对于 x ∈ R d \mathbf{x} \in \mathbb{R}^d x∈Rd，即使只在小批量上，二阶导数可能也需要 O ( d 2 ) \ma...
【深度学习|图像分割】读取并修改xml中的指定参数
="FP16"> <dim>3</dim> <dim>1</dim> <dim>1</dim> </port> </output> </layer> 这是一段xml文件的片段，这个xml中存储的是某个深度学习模型的算法结构，乍一看没啥问题，但是仔细一看，我们会发现在data shape=?,?,?处好像有点奇怪，这里的输入维度全部为?，更奇怪的是，在python上用openvino加载改模型并进行推理时，...
深度学习进阶：粒子群优化的改进与应用 | 提升模型性能的不二之选！
在深度学习领域，优化算法的选择对模型的训练效率和最终性能有着至关重要的影响。这其中，粒子群优化因其实现简单、收敛速度快等特点，成为了最热门的优化算法之一。 粒子群优化（PSO）结合了随机性和智能行为的特点，既能够通过随机搜索探索解空间，又能通过模拟智能行为来提高搜索效率，是解决复杂优化问题的有效工具。 不过，粒子群优化在实际应用中也存在一些局限性，比如有时会陷入局部最优解的问题。为了克服这一点，研究者们在...
【深度学习笔记】计算机视觉——单发多框检测（SSD）
单发多框检测（SSD） sec_ssd 在 sec_bbox— sec_object-detection-dataset中，我们分别介绍了边界框、锚框、多尺度目标检测和用于目标检测的数据集。 现在我们已经准备好使用这样的背景知识来设计一个目标检测模型：单发多框检测（SSD） Liu.Anguelov.Erhan.ea.2016。 该模型简单、快速且被广泛使用。尽管这只是其中一种目标检测模型，但本节中的一...
【深度学习笔记】计算机视觉——R-CNN
区域卷积神经网络（R-CNN）系列 sec_rcnn 除了 sec_ssd中描述的单发多框检测之外， 区域卷积神经网络（region-based CNN或regions with CNN features，R-CNN） Girshick.Donahue.Darrell.ea.2014也是将深度模型应用于目标检测的开创性工作之一。 本节将介绍R-CNN及其一系列改进方法：快速的R-CNN（Fast R-C...
【深度学习笔记】计算机视觉——锚框
锚框 目标检测算法通常会在输入图像中采样大量的区域，然后判断这些区域中是否包含我们感兴趣的目标，并调整区域边界从而更准确地预测目标的真实边界框（ground-truth bounding box）。 不同的模型使用的区域采样方法可能不同。 这里我们介绍其中的一种方法：以每个像素为中心，生成多个缩放比和宽高比（aspect ratio）不同的边界框。 这些边界框被称为锚框（anchor box）我们将在 ...
【深度学习笔记】计算机视觉——目标检测和边界框
要通过识别拍摄到的视频图像里的车辆、行人、道路和障碍物的位置来规划行进线路。 机器人也常通过该任务来检测感兴趣的目标。安防领域则需要检测异常目标，如歹徒或者炸弹。 接下来的几节将介绍几种用于目标检测的深度学习方法。 我们将首先介绍目标的位置。 %matplotlib inlineimport torchfrom d2l import torch as d2l 下面加载本节将使用的示例图像。可以看到图像...
深度学习中常见的backbone、neck、head的理解
在深度学习中，常见的backbone、neck和head是指网络结构的不同部分，它们各自承担着不同的功能： Backbone（骨干网络）：骨干网络通常是指整个深度神经网络的主要部分，负责提取输入数据的特征。骨干网络通常由多个卷积层或其他特征提取层组成，用于逐渐提取输入数据的高级特征。在图像处理任务中，骨干网络通常用于提取图像的全局和局部特征，例如边缘、纹理和形状等。 Neck（颈部）：颈部位于骨干网络和...
【Pytorch深度学习开发实践学习】Pytorch实现LeNet神经网络（3）predict.py
t(classes[int(predict)]) if __name__ == '__main__': main() 下面逐行进行分析： import torch: 导入PyTorch库，这是一个用于深度学习的开源库。 import torchvision.transforms as transforms: 导入PyTorch的图像处理模块，并简写为transforms。这个模块提供了许多图像预处理的功能...