【Pytorch】进阶学习：实现矩阵乘法---torch.mul() 、 torch.mm() 和torch.matmul()的区别
【Pytorch】进阶学习：实现矩阵乘法—torch.mul() 、 torch.mm() 和torch.matmul()的区别 🌵文章目录🌵 🚀一、引言🔍二、torch.mul()：元素级别的乘法🔩三、torch.mm()：矩阵乘法（只适用于二维张量）🎛️四、torch.matmul()：广义的矩阵乘法（适用于任意维度张量）🔎五、总结与注意事项🤝六、期待与你共同进步 🚀一、引言 在深度学习和神经网络的世...
大语言模型LLM代码：PyTorch库与ChatGLM模型
文章目录 通过阅读大语言模型的代码，熟悉并理解PyTorch 大语言模型LLM代码：PyTorch库与ChatGLM模型 大语言模型中的PyTorch ChatGLM3-6B模型代码 ChatGLMModel类总览 ChatGLMModel类说明 ChatGLMModel类核心代码片段 通过阅读大语言模型的代码，熟悉并理解PyTorch 大语言模型LLM代码：PyTorch库与ChatGLM模型 大语言模型中...
PyTorch2.0 环境搭建详细步骤(Nvidia显卡)
tep4、安装anconda（尽量使用这种方式安装python环境，坑会少一点） https://www.anaconda.com/download Step5、配置环境变量 Step6、执行命令安装PyTorch conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c pytorch -c nvidia ...
【Pytorch深度学习开发实践学习】Pytorch实现LeNet神经网络（3）predict.py
1].numpy() print(classes[int(predict)]) if __name__ == '__main__': main() 下面逐行进行分析： import torch: 导入PyTorch库，这是一个用于深度学习的开源库。 import torchvision.transforms as transforms: 导入PyTorch的图像处理模块，并简写为transforms。这个模块提...
记录踩过的坑-PyTorch
安装报错 按PyTorch官网给出的命令 pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 报错 ERROR: Could not find a version that satisfies the requirement torch (from versions: none)...
【PyTorch】成功解决AttributeError: ‘Tuple‘ object has no attribute ‘cuda‘
【PyTorch】成功解决AttributeError: ‘Tuple‘ object has no attribute ‘cuda‘ 🌵文章目录🌵 🚀一、引言🔍二、错误原因分析🛠️三、解决方案🚀四、实例演示与代码分析错误用法示例正确用法示例 📚五、总结🤝六、期待与你共同进步 🚀一、引言 在PyTorch中，我们经常会遇到需要将数据或模型移动到GPU上以利用GPU的并行计算能力的场景。然而，有时我们可能会...
【Pytorch】成功解决AttributeError: ‘tuple’ object has no attribute ‘dim’
【Pytorch】成功解决AttributeError: ‘tuple’ object has no attribute ‘dim’ 🌵文章目录🌵 🚀一、引言🔍二、错误原因分析🛠️三、解决方案🚀四、实例演示与代码分析错误用法示例正确用法示例 📚五、总结🤝六、期待与你共同进步 🚀一、引言 在PyTorch中，处理张量（Tensor）时，我们经常会遇到各种各样的错误。其中，AttributeError: ‘t...
PyTorch概述（五）---LINEAR
torch.nn.Linear torch.nn.Linear(in_features,out_features,bias=True,device=None,dtype=None) 对输入的数据应用一个线性变换： 该模块支持TensorFLoat32类型的数据；在某些ROCm设备上，使用float16类型的数据输入时，该模块在反向传播中使用不同的精度； 参数 in_features(int)---每一个输入样本...
PyTorch概述（六）---View
Tensor.view(*shape)-->Tensor 返回一个新的张量同之前的张量具有相同的数据，但是具有不同的形状；返回的张量同之前的张量共享相同的数据，必须具有相同数目的元素，可能具有不同的形状；对于经过view操作的张量，新的尺寸必须同原始的张量大小和步长兼容；每一个新的观察维度必须或者是一个原始维度的子空间；或者跨越原始维度，满足以下条件： 不满足上述条件，在不拷贝原始张量的情况下将不会view成功...
PyTorch概述（七）---Optim
.step() 注意 在1.1.0版本之前,学习率调度器被期望在优化器更新之前调用;1.1.0版本改变了这一特性;如果用户在优化器更新之前使用了学习率调度器;将忽略学习率调度器中的第一个值;如果在更新PyTorch1.1.0之后无法重新生成结果;请检查是否在错误的位置调用了学习率调度器; 权值平均(SWA和EMA) torch.optim.swa.utils 实现随机权值平均(SWA)和指数移动平均(EMA);...