移动学习网 导航

12、核支持向量机SVM

2024-04-27m.verywind.com
~

核支持向量机kernelized support vector machine,支持就是重要的意思,向量就是点,机就是机器,即重要的点。
位于类别之间边界上的那些点,这些点叫作支持向量。想要对新样本点进行预测,需要测量它与每个支持向量之间的距离。
核支持向量机可用于回归SVR和分类SVC。

下面利用乳腺癌数据集对模型进行训练:

输出

训练集的精度为1,但测试集精度只有63%,存在过拟合。SVM要求所有特征有相似的变化范围,乳腺癌数据集的特征具有不同的量级,对核SVM有很大的影响,我们对每个特征进行缩放,使其大致都位于同一范围,如将所有特征缩放到0和1之间(每一个数-最小值/范围,注意测试集也是采用训练集的最小值和范围的标准)。

输出

因为训练集和测试集的性能非常接近,但还没有接近100%的精度,所以模型还是处于欠拟合的状态。我们可以尝试增大C或gamma来拟合更为复杂的模型。
gamma是控制高斯核宽度的参数,它决定了点与点之间靠近是指多大的距离,gamma越小,更多的点被看作比较靠近。C是正则化参数,它限制每个特征的重要性(确切的说每个点的dual_coef_)。两个参数的设定通常是强烈相关的,应该同时调节。默认情况下,C=1,gamma=1。

输出

增大C显著改进了模型,得到了97%的精度。

SVM允许决策边界很复杂,即使数据只有几个特征,它在低维数据和高维数据(即很少特征和很多特征)上的表现都很好。

缺点:1 需要进行数据预处理,对数据的缩放和参数的设定非常敏感,所以数据预处理和调参都需要非常小心。这也是为什么如今很多应用中用的都是基于树的模型,比如随机森林或梯度提升(需要很少的预处理,甚至不需要预处理)。 2 SVM模型很难检查,也很难解释为什么会这么预测,难以将模型向非专家进行解释。



  • svm模式是什么意思?
  • 答:SVM是一种监督学习模型,它的全称是支持向量机。SVM模型的基本思想是把数据映射到高维空间中,然后找到一个能够把不同类别的数据集分隔开的最优超平面。这个超平面能够最大化各类数据点到超平面的距离,从而实现更好的分类效果...

  • svm算法是什么?
  • 答:4、用于医学中分类蛋白质,超过90%的化合物能够被正确分类。基于支持向量机权重的置换测试已被建议作为一种机制,用于解释的支持向量机模型。支持向量机权重也被用来解释过去的SVM模型。为识别模型用于进行预测的特征而对支持...

  • [机器学习]支持向量机原理解析
  • 答:在数据科学的领域中,支持向量机(SVM)如同一把锐利的工具,通过巧妙地在特征空间中寻找最优化的决策边界。它分为三种类型:线性可分、线性与非线性,每一种都有其独特的魅力和应用场景。当输入数据在特征空间中是线性可分...

  • 支持向量机(SVM)——原理篇
  • 答:支持向量机(SVM)——svm原理并不难理解,其可以归结为一句话,就是最大化离超平面最近点(支持向量)到该平面的距离。支持向量机(support vectorQmachine,简称SVM)是一种二分类模型,它的基本模型是在特征空间上的间隔...

  • 请高人指点!什么是支持向量机(SVM)?其本质原理是什么?
  • 答:支持向量机SVM ( Support Vector Machines)是由Vanpik领导的AT&TBell实验室研究小组 在1963年提出的一种新的非常有潜力的分类技术, SVM是一种基于统计学习理论的模式识别方法,主要应用于模式识别领域.由于当时这些研究尚不十分...

  • 支持向量机是什么意思?
  • 答:支持向量机的优点和缺点:1、由于SVM是一个凸优化问题,所以求得的解一定是全局最优而不是局部最优。2、不仅适用于线性线性问题还适用于非线性问题(用核技巧)。3、拥有高维样本空间的数据也能用SVM,这是因为数据集的复杂...

  • 支持向量机(SVM)基本原理
  • 答:对于非线性的情况,SVM 的处理方法是选择一个核函数 κ(⋅,⋅) ,通过将数据映射到高维空间,来解决在原始空间中线性不可分的问题。 具体来说,在线性不可分的情况下,支持向量机首先在低维空间中完成计算,然后通过核函数将输入空间...

  • 支持向量机( SVM)是什么意思?
  • 答:支持向量机(support vector machines, SVM)是一种二分类模型,所谓二分类模型是指比如有很多特征(自变量X)对另外一个标签项(因变量Y)的分类作用关系,比如当前有很多特征,包括身高、年龄、学历、收入、教育年限等共5项...

  • svm属于什么算法
  • 答:支持向量机(SVM)是一种监督学习模型,主要用于分类和回归分析。它是一种二类分类算法,通过最大化分类边界的边界超平面来对数据进行分类。SVM基于统计学习理论,通过使用核函数将原始数据映射到高维空间,从而避免了手动设计特征...

  • SVM(支持向量机)属于神经网络范畴吗?
  • 答:回答:支持向量机是什么?SVM是英语“支持向量机”的缩写,支持向量机是一种常见的识别方法。在机器学习领域,它是一种监督学习模式,通常用于模式识别、分类和回归分析。 特别是这个线性支持向量机的计算部分和单层神经网络是一样...

    户户网菜鸟学习
    联系邮箱
    返回顶部
    移动学习网