—— “将一个区域分割成无数小部分，计算每个小部分的面积，并将这些面积加总以得到整个区域的总面积。” 有着密切的联系。 大约 2000 年后，微分理论被发明。微分学中，优化问题占据了核心地位，这也是深度学习的最终目标之一。正是由于这个原因，微积分成为了深度学习的三大数学基础之一。 而微积分学中的微分学与积分学是相辅相成的， 微分学研究的是函数在某一点处的局部性质；积分学则关注的是函数在整个区间上的累积性...

一 查看原始函数          初始化 %matplotlib inlineimport randomimport torchfrom d2l import torch as d2l 1.1 生成原始数据 def synthetic_data(w, b, num_examples): x = torch.normal(0, 1, (num_examples, len(w))) y = torch...

目录 线性回归基本元素基本名词线性模型 机器学习领域，大多数任务最终的目标都是预测。而预测的结果大致分为两大类，一种是需要估计连续数值的回归预测，另一种是确定离散类别的分类预测。本节博文将围绕线性回归内容。 线性回归基本元素 基本名词 线性回归中，自变量 x \mathbf{x} x 与因变量 y y y 之间的关系是线性的， y y y 可以表示为 x \mathbf{x} x 中元素的加权和。 开发...

目录 自动微分 Autograd一元函数自动微分案例 自动微分 Autograd 深度学习框架，因为存在自动微分技术，可以自动计算梯度，这极大地提升了训练复杂神经网络模型的效率。从而无需繁琐的手动计算，避免错误的发生。 自动微分的核心原理是基于链式法则来递归地计算梯度。自动微分系统内置一些基础的数学函数和操作，通过基础函数和操作构建更复杂的函数，并自动计算其梯度。也因此，用户可以更加轻松地训练神经网络模...

目录 基本概率论概率论公理随机变量 多个随机变量联合概率条件概率贝叶斯定理求和法则独立性 期望与方差小结 基本概率论 机器学习本质上，就是做出预测。而概率论提供了一种量化和表达不确定性水平的方法，可以帮助我们量化对某个结果的确定性程度。 在一个简单的图像分类任务中； 如果我们非常确定图像中的对象是一只猫，那么我们可以说标签为 “猫” 的概率是 1，即 P ( y = “猫” ) = 1 P(y =“猫”...

目录 加载序列数据 准备要填充的数据 定义 LSTM 网络架构 训练 LSTM 网络 测试 LSTM 网络 此示例说明如何使用长短期记忆 (LSTM) 网络对序列数据进行分类。         要训练深度神经网络以对序列数据进行分类，可以使用 LSTM 网络。LSTM 网络允许您将序列数据输入网络，并根据序列数据的各个时间步进行预测。         此示例使用 Waveform 数据集。此示例训练 LS...

目录 1.算法运行效果图预览 2.算法运行软件版本 3.部分核心程序 4.算法理论概述 4.1深度学习网络 4.2 人脸特征提取 4.3 回归模型构建 5.算法完整程序工程 1.算法运行效果图预览 2.算法运行软件版本 MATLAB2022a 3.部分核心程序 ..................................................... % 对测试集进行分类预测[Predi...

目录 深度学习与微积分偏导数链式法则 深度学习与微积分 总结来说，深度学习的核心在于优化；优化的重点在于降低损失值；降低损失值需要通过反向梯度下降；而微积分，判断的就是梯度下降的方向和大小。 铺开来说，深度学习的核心目标是通过优化过程来训练模型，以便在给定输入数据时能够产生准确的预测。而为了评估模型的性能并指导优化过程，我们定义了一个 损失函数。它量化了模型的预测与真实值之间的不一致程度。 优化过程的关...

目录 范数的意义范数的数学意义范数之于深度学习的意义 L1 范数与 L2 范数L1 范数L2 范数 小结 本节博文是线性代数第二部分，主要内容为 L 1 L1 L1 范数与 L 2 L2 L2 范数；有关线性代数基础知识，请访问：【深度学习】S2 数学基础 P1 线性代数（上） 范数的意义 范数的数学意义 在数学的框架内，范数是一个基本的概念，它为向量空间提供了一个度量方法，使得可以比较向量的大小，并研...

目录 下载数据 准备训练数据 定义网络架构 训练网络 测试网络         此示例说明如何使用深度学习预测发动机的剩余使用寿命 (RUL)。         要训练深度神经网络以根据时间序列数据或序列数据预测数值，可以使用长短期记忆 (LSTM) 网络。         此示例使用 [1] 中所述的涡轮风扇发动机退化仿真数据集。该示例训练一个 LSTM 网络，旨在根据表示发动机中各种传感器的时间序列数...