政安晨：【深度学习处理实践】（八）—— 表示单词组的两种方法：集合和序列
咱们接着这个系列的上一篇文章继续： 政安晨：【深度学习处理实践】（七）—— 文本数据预处理https://blog.csdn.net/snowdenkeke/article/details/136697057 机器学习模型如何表示单个单词，这是一个相对没有争议的问题： 自然语言中的顺序问题很有趣： 与时间序列的时间步不同，句子中的单词没有一个自然、标准的顺序。不同语言对单词的排列方式非常不同，比如英语的句...
【前言】神经网络与深度学习简介
如果您已经了解过神经网络与深度学习，请直接跳转到第一章学习 概念： 神经网络，一种基于生物启发式编程范式，它使计算机能够从观测数据中学习 深度学习，一套用于神经网络学习的强大技术集合 简介 神经网络和深度学习目前为图像识别、语音识别和自然语言处理等许多问题提供了最佳解决方案。这本书将教你许多神经网络和深度学习背后的核心概念。 神经网络是有史以来最漂亮的编程范式之一。在传统的编程方法中，我们告诉计算机该做...
【深度学习笔记】注意力机制——注意力提示
注意力提示 🏷sec_attention-cues 感谢读者对本书的关注，因为读者的注意力是一种稀缺的资源：此刻读者正在阅读本书（而忽略了其他的书），因此读者的注意力是用机会成本（与金钱类似）来支付的。为了确保读者现在投入的注意力是值得的，作者们尽全力（全部的注意力）创作一本好书。 自经济学研究稀缺资源分配以来，人们正处在“注意力经济”时代，即人类的注意力被视为可以交换的、有限的、有价值的且稀缺的商品。...
人工智能(AI)-机器学习-深度学习-大语言模型LLM(chatgtp)
【一文读懂“大语言模型” - CSDN App】 国产大语言模型是指由中国公司或机构开发的大规模预训练语言模型。目前，国产大语言模型主要有以下几种： 中文GPT（GPT-3）：由华为公司开发，是一个基于Transformer架构的预训练语言模型。它可以用于文本生成、对话系统等自然语言处理任务。 星环GPT（GPT-2）：由北京星环科技开发，是一个基于Transformer架构的预训练语言模型。它具有较强...
Halcon深度学习，异常值缺陷检测
前言 halcon深度学习分为常见的4大类。分类，语义分割，异常值检测，深度OCR。本篇主要针对halcon的异常值检测，如何训练和部署，并通过图像预处理的方式实现对异常值缺陷检测的精准实现。 异常值检测不同于语义分割的项目，异常值检测可以仅训练OK图像，不训练NG图像，但是使用NG图像训练可以显著提高准确度 1.总结程序 ImageDir := 'E:/New/图像文件/异常值检测单块'ImageS...
【Pytorch深度学习开发实践学习】【VGG】经典算法复现-Pytorch实现VGG主干网络（1）model.py
模型结构 VGG网络是计算机视觉领域一种主流的特征提取的主干网络 它最早来自牛津大学视觉组的论文《VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION》 他们利用3*3卷积核、最大池化和全连接层构建了5种类型的VGG神经网络， 下面就具体实现一下这些类型的VGG神经网络 模型部分代码实现 VGG类 我们首先定义一个VGG类，...
【深度学习笔记】优化算法——Adam算法
:numref:sec_rmsprop中，我们通过学习率的调整来分离每个坐标的缩放。 Adam算法 :cite:Kingma.Ba.2014将所有这些技术汇总到一个高效的学习算法中。 不出预料，作为深度学习中使用的更强大和有效的优化算法之一，它非常受欢迎。 但是它并非没有问题，尤其是 :cite:Reddi.Kale.Kumar.2019表明，有时Adam算法可能由于方差控制不良而发散。 在完善工作中，...
深度学习，人工智能总结
1，入门建议少看书，多看 csdn 上帖子总结（主要就是 BP 神经网络，CNN ，rnn ），建立宏观的概念和主要框架，书可以作为进阶补充作为工具书查阅。 2,目前的神经网络还处于前牛顿时代，就是实践中图像识别效果很好，但是原理不太清楚 3，现在的人工智能有点像通信行业 2g 时代，从 2012 年 alexnet 到 openai 的 chatgpt，未来还有很长的发展潜力。丰田不是汽车的发明者，但...
深度学习——第9章 项目实战：让你的神经网络模型越来越深
9.1 导入数据集 9.2 预处理 9.3 初始化参数 W 和 b 9.4 正向传播单层神经元 9.5 正向传播 L 层神经元 9.6 损失函数 9.7 反向传播单层神经元 9.8 反向传播 L 层神经元 9.9 更新网络参数 W 和 b 9.10 整个神经网络模型 9.11 模型预测 9.12 训练模型 上一课主要介绍了深层神经网络模型的结构和常用的标记方法，详细推导了深层神经网络模型的正向传播和反向...
【深度学习笔记】优化算法——AdaGrad算法
athbf{Q}}_{ii} = 1 Q~ii=1。 在大多数情况下，这大大简化了条件数。 例如我们之前讨论的案例，它将完全消除眼下的问题，因为问题是轴对齐的。 遗憾的是，我们还面临另一个问题：在深度学习中，我们通常情况甚至无法计算目标函数的二阶导数：对于 x ∈ R d \mathbf{x} \in \mathbb{R}^d x∈Rd，即使只在小批量上，二阶导数可能也需要 O ( d 2 ) \ma...