支持向量机（SVM）

1 问题

二分类

2 训练数据

y = 1, -1

3 模型

4 损失函数

L（w,b）= 1/2 * w^2

5 约束条件

1） 可分（不同的两类样本分开）

决策面方程满足下式：

2） 决策面应该在中轴线上

决策面在中轴线上，支持向量对应的样本点到决策面上的距离为d：

3） 最大间隔

式（2.9）同时除以d：

其中：



求最大间隔（优化目标）：

6 求解

1） 原问题

2） 拉格朗日函数去约束条件

3） 极小极大值


4） 对偶

5） 求导



6） SMO算法
改变两个α，固定其他的。

7 扩展到非线性

3个核函数