移动学习网 导航

svm算法是什么?

2024-05-09m.verywind.com
~

SVM是由模式识别中广义肖像算法(generalized portrait algorithm)发展而来的分类器,其早期工作来自前苏联学者Vladimir N. Vapnik和Alexander Y. Lerner在1963年发表的研究。

1964年,Vapnik和Alexey Y. Chervonenkis对广义肖像算法进行了进一步讨论并建立了硬边距的线性SVM。此后在二十世纪70-80年代,随着模式识别中最大边距决策边界的理论研究、基于松弛变量的规划问题求解技术的出现,和VC维的提出,SVM被逐步理论化并成为统计学习理论的一部分。

svm算法的性质:

SVM的优化问题同时考虑了经验风险和结构风险最小化,因此具有稳定性。从几何观点,SVM的稳定性体现在其构建超平面决策边界时要求边距最大,因此间隔边界之间有充裕的空间包容测试样本。

SVM使用铰链损失函数作为代理损失,铰链损失函数的取值特点使SVM具有稀疏性,即其决策边界仅由支持向量决定,其余的样本点不参与经验风险最小化。在使用核方法的非线性学习中,SVM的稳健性和稀疏性在确保了可靠求解结果的同时降低了核矩阵的计算量和内存开销。

以上内容参考:百度百科-支持向量机



SVM(Support Vector Machine)中文名为支持向量机,是常见的一种判别方法。

支持向量机(Support Vector Machine, SVM)是一类按监督学习(supervised learning)方式对数据进行二元分类的广义线性分类器(generalized linear classifier),其决策边界是对学习样本求解的最大边距超平面(maximum-margin hyperplane)。

数值求解特点:

SVM的求解可以使用二次凸优化问题的数值方法,例如内点法和序列最小优化算法,在拥有充足学习样本时也可使用随机梯度下降。 

在二次凸优化问题中,SMO的每步迭代都严格地优化了SVM的对偶问题,且迭代会在有限步后收敛于全局极大值。SMO算法的迭代速度与所选取乘子对KKT条件的偏离程度有关,因此SMO通常采用启发式方法选取拉格朗日乘子。

在每次迭代时,SGD首先判定约束条件,若该样本不满足约束条件,则SGD按学习速率最小化结构风险;若该样本满足约束条件,为SVM的支持向量,则SGD根据正则化系数平衡经验风险和结构风险,即SGD的迭代保持了SVM的稀疏性。



  • svm算法是什么?
  • 答:SVM是由模式识别中广义肖像算法(generalized portrait algorithm)发展而来的分类器,其早期工作来自前苏联学者Vladimir N. Vapnik和Alexander Y. Lerner在1963年发表的研究。1964年,Vapnik和Alexey Y. Chervonenkis对广义肖像算法...

  • svm属于什么算法
  • 答:支持向量机(SVM)是一种监督学习模型,主要用于分类和回归分析。它是一种二类分类算法,通过最大化分类边界的边界超平面来对数据进行分类。SVM基于统计学习理论,通过使用核函数将原始数据映射到高维空间,从而避免了手动设计特征...

  • svm算法是什么?
  • 答:SVM算法中文翻译为支持向量机,它的英文全称是Support Vector Machine。之所以叫作支持向量机,是因为该算法最终训练出来的模型,由一些支持向量决定。所谓的支持向量,也就是能够决定最终模型的向量。SVM算法最初是用来解决二分类...

  • svm是什么
  • 答:SVM是指支持向量机(Support Vector Machines)算法。SVM是一种在机器学习领域广泛使用的分类算法。SVM是在有监督学习下,从一系列带标签的训练样本中训练出分类模型,在此基础上预测新样本的分类。SVM通过寻找训练样本中最优的...

  • svm算法是什么?
  • 答:支持向量机(英语:support vector machine,常简称为SVM,又名支持向量网络)是在分类与回归分析中分析数据的监督式学习模型与相关的学习算法。SVM使用铰链损失函数(hinge loss)计算经验风险(empirical risk)并在求解系统中...

  • SVM是什么?
  • 答:也就是说,只要选用适当的核函数,我们就可以得到高维空间的分类函数。在SVM理论中,采用不同的核函数将导致不同的SVM算法 它是一种以统计学理论为基础的,以结构风险最小化的学习机学习方法,要优于神经网络学习 ...

  • 什么是支持向量机(SVM)以及它的用途?
  • 答:SVM - support vector machine, 俗称支持向量机,为一种supervised learning算法,属于classification的范畴。在数据挖掘的应用中,与unsupervised的Clustering相对应和区别。广泛应用于机器学习(Machine Learning), 计算机视觉(Computer...

  • 什么是支持向量机?
  • 答:SVM算法是一种学习机制,是由Vapnik提出的旨在改善传统神经网络学习方法的理论弱点,最先从最优分类面问题提出了支持向量机网络。SVM学习算法根据有限的样本信息在模型的复杂性和学习能力之间寻求最佳折中,以期获得最好的泛化能力...

  • 哪些算法属于监督学习的范畴
  • 答:SVM算法是一种按监督学习方式对数据进行二元分类的广义线性分类器及决策边界是对学习样本求解的最大边距超平面 SVM使用铰链损失函数计算经验风险,并在求解系统中加入了正则化项以优化结构,风险是一个具有稀疏性和稳健性的分类...

  • svm是什么意思?
  • 答:svm是一种典型的二类分类模型。支持向量机(英语:support vector machine,常简称为SVM,又名支持向量网络)是在分类与回归分析中分析数据的监督式学习模型与相关的学习算法。给定一组训练实例,每个训练实例被标记为属于两个...

    相关主题

      相关链接:
    户户网菜鸟学习
    联系邮箱
    返回顶部
    移动学习网