【机器学习】支持向量机【上】硬间隔
支持向量机 支持向量机（support vector machines，SVM）是一种二分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，其决策方式与感知机一致，但是采用最大间隔的思想进行学习使它有别于感知机。支持向量机学习方法包含构建由简至繁的模型：线性可分支持向量机（linear support vector machine in linearly separable case）、...
【Python自然语言处理】文本向量化的六种常见模型讲解（独热编码、词袋模型、词频-逆文档频率模型、N元模型、单词-向量模型、文档-向量模型）
一、文本向量化 文本向量化：将文本信息表示成能够表达文本语义的向量，是用数值向量来表示文本的语义。 词嵌入(Word Embedding)：一种将文本中的词转换成数字向量的方法，属于文本向量化处理的范畴。 向量嵌入操作面临的挑战包括： （1）信息丢失：向量表达需要保留信息结构和节点间的联系。 （2）可扩展性：嵌入方法应具有可扩展性，能够处理可变长文本信息。 （3）维数优化：高维数会提高精度，但时间和...
动态TopicModel BERTopic 中文 长文本 SentenceTransformer BERT 均值特征向量 整体特征分词关键词
动态TopicModel BERTopic 中文 长文本 SentenceTransformer BERT 均值特征向量 整体特征分词Topic 主题模型与BERTopic 主题模型Topic Model最常用的算法是LDA隐含迪利克雷分布，然而LDA有很多缺陷，如： LDA需要主题数量作为输入，非常依赖这个值；LDA存在长尾问题，对于大量低频词数据集表现不好；LDA只考虑词频，没有考虑词与词之间的...
向量与矩阵（2）
1、将三个向量组成一个矩阵 2、矩阵的秩 rank（A） 若矩阵的秩小于矩阵的行数，表示这个矩阵是可逆的，从三维的角度来说就是是共面的，数学上我们可以进行行列式的变换 3、向量方向余弦的计算 我们要补充一下，向量的模 向量的模我们一般是V1=[1,2,1] 那么 模= 2.4495 方向余弦矩阵：分别绕着XYZ轴旋转得到： 4、向量的内积=sum(X.*Y) 5、向量的夹角===Cos...
【菜菜的sklearn课堂笔记】支持向量机-SVC真实数据案例：预测明天是否会下雨-建模与模型评估以及不同方向的调参
衡的参数class_weight，解决多分类问题的参数decision_function_shape，控制概率的参数probability，控制计算内存的参数cache_size，属性主要包括调用支持向量的属性support_vectors_和查看特征重要性的属性coef_。接口中，我们学习了最核心的decision_function。除此之外，我们介绍了分类模型的模型评估指标：混淆矩阵和ROC曲线，...
支持向量机-关于predict_proba、decision_function
前一篇文章中，对 prob = pd.DataFrame(clf.decision_function(Xtest)) prob.loc[prob.iloc[:,0] >= 0.13157937002761821,"y_pred"] = 1prob.loc[prob.iloc[:,0] < 0.13157937002761821,"y_pred"] = 0 有疑问，为什么比阈值大的标签就是1，反之就...
每天5分钟机器学习算法：支持向量机之硬间隔分类器以及SMO算法
本文重点 我们前面把支持向量机需要准备的知识大多数都介绍了，之后我们也介绍了支持向量机的目标函数了，接下来我们要对这个目标函数进行优化了。 优化 这就是目标函数，上一节文章中我们从多角度进行了介绍，那么这里就不多说了，下面继续进行处理，构造拉格朗日函数： 然后我们利用之前的强对偶性对其转换： 从最小到最大的转换，可以让我们先优化w，b，也就是下面我们可以看到w和b可以被λ表示，这样就降低了复杂度了，λ...
支持向量机
文章目录 基本思想硬间隔软间隔核函数概率化输出优缺点参考文献附录 支持向量机（Support Vector Mechine, SVM）是由统计学习之父弗拉基米尔·瓦普尼克提出的。他在 1963 年就提出了相关概念，但由于他当时身在苏联且当时苏联学术界几乎不与西方交流，所以并未得到重视。1990 年他前往美国，他将之前的研究工作整理发表，支持向量机很快就变得火热。 本文只是对 SVM 进行浅显...
异常检测 | MATLAB实现基于支持向量机和孤立森林的数据异常检测(结合t-SNE降维和DBSCAN聚类)
异常检测 | MATLAB实现基于支持向量机和孤立森林的数据异常检测(结合t-SNE降维和DBSCAN聚类) 目录 异常检测 | MATLAB实现基于支持向量机和孤立森林的数据异常检测(结合t-SNE降维和DBSCAN聚类) 效果一览 基本介绍 模型准备 模型设计 参考资料 效果一览 基本介绍 ...
删除其单元格与给定向量匹配的数据帧行
本文介绍了删除其单元格与给定向量匹配的数据帧行的处理方法，对大家解决问题具有一定的参考价值，需要的朋友们下面随着小编来一起学习吧！ 问题描述 我有大量的数据框架，不同数量的列和行。我将搜索数据帧中的给定向量的值，并删除与该给定向量的值匹配的单元格行。我希望将其作为一个函数，因为我必须在多个可变行和列的数据框上运行它，并且我希望避免循环的。 例如 ff< -structure（list（j.1 = 1...