手机网站建设制作,做网站的框架,南京百度seo公司,免费给人做网站的SVM全称是supported vector machine(支持向量机)#xff0c;即寻找到一个超平面使样本分成两类#xff0c;并且间隔最大。
SVM能够执行线性或⾮线性分类、回归#xff0c;甚至是异常值检测任务。它是机器学习领域最受欢迎的模型之一。SVM特别适用于中小型复杂数据集的分类。…SVM全称是supported vector machine(支持向量机)即寻找到一个超平面使样本分成两类并且间隔最大。
SVM能够执行线性或⾮线性分类、回归甚至是异常值检测任务。它是机器学习领域最受欢迎的模型之一。SVM特别适用于中小型复杂数据集的分类。 超平面最大间隔 上左图显示了三种可能的线性分类器的决策边界虚线所代表的模型表现非常糟糕甚至都无法正确实现分类。其余两个模型在这个训练集上表现堪称完美但是它们的决策边界与实例过于接近导致在面对新实例时表现可能不会太好。
右图中的实线代表SVM分类器的决策边界不仅分离了两个类别且尽可能远离最近的训练实例。
硬间隔分类
在上面我们使用超平面进行分割数据的过程中如果我们严格地让所有实例都不在最大大间隔之间并且位于正确的一边这就是硬间隔分类。
硬间隔分类有两个问题首先它只在数据是线性可分离的时候才有效;其次它对异常值非常敏感。
当有一个额外异常值的鸢尾花数据左图的数据根本找不出硬间隔而右图最终显示的决策边界与我们之前所看到的无异常值时的决策边界也大不相同可能无法很好地泛化。 软间隔分类
要避免这些问题最好使用更灵活的模型。目标是尽可能在保持最大间隔宽阔和限制间隔违例(即位于最大间隔之上甚至在错误的一边的实例)之间找到良好的平衡这就是软间隔分类。
要避免这些问题最好使用更灵活的模型。目标是尽可能在保持间隔宽阔和限制间隔违例之间找到良好的平衡这就是软间隔分类。 在Scikit-Learn的SVM类中可以通过超参数C来控制这个平衡C值越小则间隔越宽但是间隔违例也会越多。上图 显示了在一个非线性可分离数据集上两个软间隔SVM分类器各自的决策边界和间隔。
左边使用了高C值分类器的错误样本(间隔违例)较少但是间隔也较小。
右边使用了低C值间隔大了很多但是位于间隔上的实例也更多。看起来第二个分类器的泛化效果更好因为大多数间隔违例实际上都位于决策边界正确的一边所以即便是在该训练集上它做出的错误预测也会更少。
