optimize. Adjust the topic of the folder

pull/2/head
benjas 4 years ago
parent 3f8595aa35
commit fc51779d99

@ -138,7 +138,14 @@ Support vector machines
> 图中心,虚线到实线的距离我们称之为γ,我们要做的是最大化γ,使得这个超平面调整为γ的一个最大值,等价于找到了最优的超平面
![1619585628157](assets/1619585628157.png)
**式子如下:**
$$
\max_{w,b} \quad γ
$$
$$
s.t.\quad y_i(\frac{w}{||w||}*x_i+\frac{b}{||w||})≥γ \quad i=1,2,...,N
$$
> γ:表示几何间隔
>
@ -161,10 +168,43 @@ $$
y_i(wx_i+b)≥\hat{γ},其中\hat{γ}是函数间隔
$$
max的时候是几何间隔也就是最终s.t. 还是会约束着它朝着几何间隔去走,但是这样的好处就是下方的||w||就没有了
**简化后如下:**
$$
\max_{w,b} \quad \frac{\hat{γ}}{||w||}
$$
$$
s.t.\quad y_i(w*x_i+b)≥γ \quad i=1,2,...,N
$$
之前我们说过对于函数间隔我们等比例放大缩小w、b可以让最终结果变成1也就是γ=1
**再简化后:**
$$
\max_{w,b} \quad \frac{1}{||w||}
$$
$$
s.t.\quad y_i(w*x_i+b)≥1 \quad i=1,2,...,N
$$
$$
我们想要最大化\frac{1}{||w||},那么相当于最小化||w||
$$
$$
后面要用到拉格朗日乘子法,我们把\frac{1}{||w||}变成\frac{1}{2}||w||^2这两者是等价的
$$
**再简化后:**
$$
\min_{w,b} \quad \frac{1}{2}||w||^2
$$
$$
s.t.\quad y_i(w*x_i+b)-1≥0 \quad i=1,2,...,N
$$
![1619585642761](assets/1619585642761.png)

Some files were not shown because too many files have changed in this diff Show More

Loading…
Cancel
Save