从零开始 TensorRT（3）Python 篇：解析 ONNX、PyTorch TensorRT 接口
前言 学习资料： TensorRT 源码示例 官方文档：Working With TensorRT Using The Python API 官方文档：TensorRT Python 官方文档：CUDA Python B站视频教程 视频配套代码 cookbook 示例：解析 ONNX 模型 参考源码：cookbook → 04-BuildEngineByONNXParser → pyTorch-ONNX-T...
CUDA/TensorRT部署知识点
CUDA相关： 1、CUDA核函数嵌套核函数的用法多吗？ 答：这种用法非常少，主要是因为启动一个kernel本身就有一定延迟，会造成执行的不连续性。 2、如下代码里的 grid/block 对应硬件上的 SM 的关系是什么？ 答：首先需要理解grid/block是软件层的概念，而SM是硬件层的概念。所以我们在GPU中是找不到grid/block的，所以只能抽象去理解这个关系。一般来讲一个kernel对应一个...
复现图神经网络（GNN）论文的过程以及PyTorch与TensorFlow对比学习
描述的实验，获取相应的数据集。如果论文中使用的是公开数据集，通常可以直接从互联网上下载；如果是私有数据集，可能需要自己收集或生成类似的数据。 三、实现模型： 使用合适的深度学习框架（如PyTorch、TensorFlow等）实现论文中的模型。 注意实现细节，如层的类型、激活函数、损失函数等，确保与论文中描述一致。 四、训练模型：使用准备好的数据集对模型进行训练。注意设置与论文中相同的超参数，如学习率、批大小、...
pytorch学习（一）、tensorboard和torchvision
文章目录 一、os模块二、from torch.utils.data import Dataset三、from torch.utils.tensorboard import SummaryWriter四、from torchvision import transforms五、torchvision 中数据集的下载六、torchvision 中的测试数据集的加载 一、os模块 os.path.join(dir...
模型实战（17）之C++ - tensorRT部署yolov8seg实例分割
模型实战（17）之C++ - tensorRT部署yolov8seg实例分割 yolov8是2023年以来最新的集检测、分割、分类、关键点于一身的模型 参考官网文档：添加链接描述 本文将详细给出C++ - tensorRT部署yolov8seg模型的详细步骤 实现效果的话，精度和python环境下差不多，仅推理时间在RTX30~系列显卡仅需几毫秒一帧，但是其前处理和后处理时间在图像尺寸为640时达到了一百多...
ModuleNotFoundError: No module named ‘tensorflow‘
直接运行pip install tensorflow安装成功之后，发现版本是tensorflow2.15.0 python的版本是3.9版本 导入包：import tensorflow 打包xxx.exe,调用之后提示错误 最后发现特定的python的版本对应特定的tensorflow的版本，以下是官方的测试版本 官方：https://tensorflow.google.cn/install/source_...
模型实战（18）之C++ - tensorRT部署GAN模型实现人脸超分辨重建
模型实战（18）之C++ - tensorRT部署GAN模型实现人脸超分辨重建 一个实现人脸超分辨率重建的demo 支持StyleGAN: GPEN or GFPGAN 通过C++ - tensorrt 快速部署，推理速度每帧 在RTX3090上5.5ms+，RTX3050上10ms+ 下边是实现效果（图片来源于网络search，如若侵权，联系删除） 下边给出实现步骤： 1. 模型转换 下载模型至本地 Do...
sklearn和tensorflow的理解
者可以自行对数据进行处理，比如选择特征、压缩维度、转换格式，是传统机器学习库，SKLearn中，因为做了上层的封装，分类模型、回归模型、聚类与降维模型、预处理器等等都叫做估计器(estimator) TensorFlow(tf)的定位主要是深度学习库，tf主要适合已经明确了解需要用深度学习，且数据处理需求不高的项目。这类项目往往数据量较大，且最终需要的精度更高，一般都需要GPU加速运算 不过小样本的也可以使用...
解决方案：查看机器CPU、GPU、内存配置+如何迁移虚拟环境到离线机器+解决输出tensor有省略号的问题
：/home/用户名/anaconda3/envs/xx/ 在目标服务器上解压压缩包：tar -xzf xx.tar.gz 在目标服务器上查看虚拟环境：conda info --envs 问题三、输出tensor有省略号 问题描述：Torch 在输出tensor的时候，如何指定输出全部，不要省略号略过中间值 tensor([[[-102.1618, -102.1618, -103.8347, …, -117....
TensorFlow 的基本概念和使用场景
TensorFlow是一种开源库，用于进行数值计算，特别是在大规模机器学习和深度学习方面。它是构建神经网络及其他机器学习算法的框架。TensorFlow使用数据流图来表示数学计算，其中节点代表数学操作，而边缘代表数据流向和从操作输出到其他操作的依赖关系，从而使并行计算变得容易。 TensorFlow的主要优点是： 灵活性：可以在多个平台上运行，包括移动设备、嵌入式设备和云服务。 可扩展性：TensorFlow...