机器学习——卷积神经网络的反向传播算法
机器学习——卷积神经网络的反向传播算法 卷积神经网络（Convolutional Neural Network，CNN）是一种主要应用于图像识别、语音识别等领域的深度学习模型。在CNN中，反向传播算法是用于更新网络参数以最小化损失函数的关键步骤之一。本文将介绍卷积神经网络的基本概念、汇聚层、卷积层以及反向传播算法的步骤，并通过Python实现算法，最后给出总结。 1. 基本概念 卷积神经网络是一种前馈神经网...
机器学习——典型的卷积神经网络
机器学习——典型的卷积神经网络 卷积神经网络（Convolutional Neural Networks，CNNs）是一类在图像处理领域应用广泛的深度学习模型。它通过卷积操作和池化操作来提取图像的特征，并通过全连接层来进行分类或回归任务。在本文中，我们将介绍三种典型的卷积神经网络：LeNet-5、AlexNet和ResNet，并用Python实现这些算法。 1. LeNet-5 LeNet-5是由Yann ...
机器学习——聚类算法-KMeans聚类
机器学习——聚类算法-KMeans聚类 在机器学习中，聚类是一种无监督学习方法，用于将数据集中的样本划分为若干个簇，使得同一簇内的样本相似度高，不同簇之间的样本相似度低。KMeans聚类是一种常用的聚类算法之一，本文将介绍KMeans算法的原理、流程、聚类质量评价方法、优缺点以及KMeans++算法，并通过Python实现一个简单的KMeans聚类算法示例。 KMeans算法流程 KMeans算法的流程如下...
机器学习——卷积神经网络中的其他类型
机器学习——卷积神经网络中的其他类型 卷积神经网络（Convolutional Neural Networks, CNNs）是深度学习领域中最重要的技术之一，它在图像处理、语音识别、自然语言处理等领域取得了巨大成功。在CNN中，卷积层是最核心的组成部分之一，而卷积操作又有许多不同类型，本文将重点介绍其中的两种特殊类型：空洞卷积和转置卷积。 1. 空洞卷积（Dilated Convolution） 空洞卷积是...
机器学习——卷积基础
机器学习——卷积基础 卷积在机器学习中扮演着重要的角色，尤其在计算机视觉领域。本文将介绍卷积的基本概念、组成部分和方法，并用Python实现算法。 1. 基本概念 卷积是一种在数学上的运算，它通过将两个函数进行加权平均来产生第三个函数。在机器学习中，卷积通常用于处理图像、音频和文本数据。卷积操作可以用于提取特征、降维和处理数据。 2. 基本组成部分 滤波器（Filter）：滤波器是一个矩阵，用于对输入数据进...
机器学习—— PU-Learning算法
机器学习—— PU-Learning算法 本篇博客将介绍PU-Learning算法的基本概念、基本流程、基本方法，并简单探讨Two-step PU Learning算法和无偏PU Learning算法的具体流程。最后，将通过Python代码实现一个简单的PU-Learning示例，以便更好地理解这些概念和算法。 1. 基本概念 PU-Learning是一种解决类别不平衡问题的机器学习方法，其中类别包括正例（...
机器学习——卷积的变种
机器学习——卷积的变种 卷积神经网络（Convolutional Neural Networks, CNNs）是深度学习领域中最重要的技术之一，它在图像处理、语音识别、自然语言处理等领域取得了巨大成功。在CNN中，卷积层是最核心的组成部分之一，而卷积操作有许多不同的变种，本文将简单介绍窄卷积、宽卷积和等宽卷积这三种常见的卷积变种。 1. 基本概念 在深度学习中，卷积操作是一种有效的特征提取方式，它通过在输入...
机器学习——降维算法-主成分分析（PCA）
机器学习——降维算法-主成分分析（PCA） 在机器学习领域，主成分分析（Principal Component Analysis，简称PCA）是一种常用的降维技术，用于减少数据集中特征的数量，同时保留数据集的主要信息。本文将介绍PCA算法的过程、理论基础、以及优缺点，并通过Python实现一个简单的PCA算法示例，最后给出总结。 1. PCA算法过程 主成分分析的过程如下： 对原始数据进行标准化处理，使每个...
机器学习——AdaBoost算法
机器学习——AdaBoost算法 在机器学习领域，AdaBoost算法是一种非常流行的集成学习方法，旨在提高分类器的性能。本篇博客将介绍AdaBoost算法的原理、算法流程、算法参数，对比AdaBoost和随机森林的区别，并使用Python实现AdaBoost算法，并给出总结。 1. 原理 AdaBoost算法（Adaptive Boosting）是一种迭代的集成学习算法，通过迭代地训练一系列弱分类器（通常...
机器学习——决策树特征选择准则
机器学习——决策树特征选择准则 决策树是一种强大的机器学习模型，它可以用于分类和回归任务。决策树通过树状结构对数据进行分类，每个内部节点表示一个特征，每个叶节点表示一个类别或一个数值。在决策树构建的过程中，特征的选择准则起着至关重要的作用。本篇博客将介绍决策树模型以及常用的特征选择准则，包括熵和条件熵、信息增益、信息增益比和基尼指数，并通过Python代码实现。 1. 决策树模型 决策树是一种基于树状结构进...