机器学习day8-SVM训练误差为0的解存在问题
作者:互联网
训练误差为0的SVM分类器一定存在吗
理论上,存在一组参数以及使得SVM训练误差为0,但是这个参数不一定是满足SVM条件的一个解,在实际训练SVM模型时,会加入一个松弛变量,那么还能够保证得到的SVM分类器满足训练误差为0吗?
因此,我们需要找到一组参数,使得满足训练误差为0,且是SVM模型的解。
SVM模型解的限制条件是
目前我们得到的一组参数可以使得,当时,;当时,。
因此,我们还需要满足的条件,
因此,对于公式,首先令b=0,则
因此,
这里,。取值非常小,也就满足了。此时满足了SVM的解条件,同时此时模型误差也为0。
加入松弛变量,SVM的训练误差可以为0吗
实际中使用SMO算法来训练加入松弛变量的线性SVM模型,并且惩罚因子为任一未知常数,也不一定可以得到训练误差为0的模型。
带松弛变量的SVM模型的目标函数包含这两项:
当C=0,=0,达到了优化目标,此时训练误差不一定为0。
标签:误差,SVM,day8,训练,模型,满足,松弛 来源: https://blog.51cto.com/15069488/2578601