Datawhale X 李宏毅苹果书 AI夏令营task2笔记

1.2 线性模型

1.2.1 分段线性曲线

建立分段线性曲线的必要性：线性模型也许过于简单，x1 跟 y 可能中间有比较复杂的关系。对于线性模型来说，y只能随x的增加而增加，这显然与现实情况不符。这一种来自于模型的限制称为模型的偏差。

1.建立分段线性曲线：

如图1.8，分段线性曲线（红色线）可以看作是一个常数再加上一堆其他的函数（蓝色线）。如果分段线性曲线越复杂，转折的点越多，所需的蓝色函数就越多。其中红线每个转折都是一个常数项加上hard sigmoid函数。当有足够的其他函数把它加起来，就可以变成连续的曲线（如图1.9）

Sigmoid 函数：当y与x的关系非常复杂，直接写 HardSigmoid 不是很容易时，可以用一条曲线来理解它，即用 Sigmoid 函数来逼近 Hard Sigmoid函数，Sigmoid 函数的表达式为:

值得一提的是，调整这里的 b、w 和 c 可以制造各种不同形状的 Sigmoid 函数，用各种不同形状的 Sigmoi