如何推导“支持向量机”
0.前言
本文只讲述支持向量机(svm)的基础,不涉及任何高深东西。
1. 支持向量机 作用
先看一图:


2. 如何判断好坏
下面问题来了,能够区分两堆点的线有好多,怎么区分哪个好?这就引出了**街宽(margin)**的概念:


此处我们为什么选择常数1?因为如果假设是常数k,我们总可以通过两边同时除以k,对w和b进行缩放,让等式右边变为1.
上面两个式子可以统一为:

下面我们来计算街宽:



3. 优化街宽
我们现在知道街宽只和w相关,下面是我们的优化目标:

此时所有(x,y)满足:

4. 最优解
总结下目前的优化目标:






5. 支持向量
支持向量机中中一个很重要的概念就是支持向量,让我们来看上面推导中的式子:






6. 核函数
线性空间到非线性空间变化,从而使得数据线性可分:


相关推荐
mogigo00 2020-05-21
rein0 2020-05-03
jhshanyu00 2020-05-03
winmeanyoung 2020-05-01
chenfei0 2020-02-24
seekerhit 2020-01-30
sxyhetao 2019-12-03
卖小孩的咖啡 2019-11-07
卖小孩的咖啡 2019-11-01
luozaifei 2016-06-13
AmbiRF 2019-07-01
刘利新西安 2015-12-17
雅言敦行 2019-06-27
yonezcy 2019-06-27
不系之舟讨论群0 2019-06-18
itaquestion 2019-06-15
HandsomeFuHS 2019-05-07
SystemArchitect 2018-08-13