迁移学习（DANN）《Domain-Adversarial Training of Neural Networks》
athrm{S}}$ and the target domain $\mathcal{D}_{\mathrm{T}}$ . An unsupervised domain adaptation learning algorithm is then provided with a labeled source sample $S$ drawn i.i.d. from $\mathcal{D}_{\mathrm...
cs231n学习笔记——lecture6 Training Neural Networks
1n笔记】10.神经网络训练技巧(上)、CS231n学习笔记-训练神经网络、整理学习之Batch Normalization（批标准化）、CS231n-2022 Module1: 神经网络3：Learning and Evaluation一、激活函数Activation Funnctions 1、Sigmoid： \(\sigma(x)=\frac{1}{1+e^{-x}}\) 每个输入到Sigmoid...
人工智能 之 机器学习(Machine Learning)
目录 一：机器学习概述 二：机器学习算法 三：机器学习模型 四：机器学习过程 五：机器学习模型验证 六：sklearn模块 一：机器学习概述 二：机器学习算法 三：机器学习模型 四：机器学习过程 五：机器学习模型验证 六：sklearn模块 pip3 install sklearn -i https://pypi.mirrors.ustc.edu.cn/simple/ ...
Yearning建立流程和数据源进行测试
1.前提说明前面已经搭建好了平台，并且接入了LDAP、邮箱和钉钉，现在就是建立一下数据源和流程来进行测试，如果有什么疑问可以看上一篇文章安装Yearning审核平台2.建立流程2.1 新建流程 2.2 流程编排 先编写审核流程 编写执行流程 最后的结果如下图 3.建立数据源 点击测试和创建 4.建立权限组4.1 点击新建权限组 4.1 点击新建权限组需要把左边一到右边已选DDL权限和DML权限等...
对YoloV5的backbone进行self-supervised learning以及fine-tuning
文章目录 应用场景 分离出YoloV5的backbone 基于主干网络的自监督训练 基于冻结主干梯度的模型预训练 模型训练 应用场景 当你的数据集存在标注数据占比较小，无标注数据占大头的时候，可以考虑下自监督学习来提高主干网络的视觉表征能力，有关自监督学习的论文可以参考这篇博文。 分离出YoloV5的backbone 将YoloV5的backbone写成一个图像分类网络 class YoloBackbo...
CVPR2020-Meshed-Memory Transformer for Image Captioning
论文地址：Meshed-Memory Transformer for Image Captioning (thecvf.com) Background 本文在transformer的基础上，对于Image Caption任务，提出了一个全新的fully-attentive网络。在此之前大部分image captioning的工作还是基于CNN进行特征提取再有RNNs或者LSTMs等进行文本的生成。本文...
Model-Agnostic Meta-Learning (MAML) 理解
模型不可知元学习(Model-Agnostic Meta-Learning, MAML)的目标是使模型每次的梯度更新更有效、提升模型的学习效率、泛化能力等，它可以被看做一种对模型进行预训练的方法，适用于小样本学习。 原文：http://proceedings.mlr.press/v70/finn17a/finn17a.pdf 其它理解可以看：https://zhuanlan.zhihu.co...
综述类论文_Machine Learning for Encrypted Malicious Traffic Detection（重要）
文章目录 Machine Learning for Encrypted Malicious Traffic Detection: Approaches, Datasets and Comparative Study摘要存在的问题论文贡献1. 基于机器学习的加密流量检测模型的总体框架1.1 Research Target（研究目标）1.2 Traffic Dataset Collection（流量数据集收...
【NLP】使用 BERT 和 PyTorch Lightning 进行多标签文本分类
少的资源并且在较小的（更）数据集上更准确。 在本教程中，您将学习如何： 将文本数据加载、平衡和拆分成集合标记文本（使用 BERT 标记器）并创建 PyTorch 数据集使用 PyTorch Lightning 微调 BERT 模型了解热身步骤并使用学习率调度程序在训练期间使用 ROC 下的面积和二元交叉熵来评估模型如何使用微调的 BERT 模型进行预测评估每个类的模型性能（可能的注释标记）我们的模型对有...
【Designing ML Systems】第 2 章 ：机器学习系统设计简介
如此，继续遵循当前以数据为中心的范式的 ML 人员会发现自己已经过时，如果不是失业的话。记笔记。” 18 教授的意见也比较温和斯坦福人工智能实验室主任克里斯托弗·曼宁 (Christopher Manning) 认为，简单的学习算法带来的巨大计算量和海量数据会造成非常糟糕的学习者。该结构使我们能够设计可以从更少的数据中学习更多的系统。19 如今，许多机器学习领域的人都属于数据重于思维的阵营。Richard...