Linear Model往往比较简单,y都是随着X(x1,x2...)的输入线性变化的,但在现实场景中问题往往不是Linear Model可以描述的。
比如我们需要得到红色曲线时,用Linear Model就无法实现,这种模型无法拟合问题的情况下就叫做Model Bias。
那么我们如何拟合红色的曲线呢?
通过上图方式就可以拟合出任意的Piecewise Linear Curves。
Piecewise Linear Curves:Curves由很多锯齿状线段组成。
如果不是Piecewise Linear Curves也可以近似表示。
那怎么表示这样的曲线呢,表示起来不是很容易,所以我们用Sigmoid近似表示。
其实实现的这个function就叫做hard sigmoid
有了sigmoid function我们就可以通过改变参数用不同的sigmoid function去拟合任意连续函数了。
如果把式子画出来:
用线性代数最终表示的式子:
我们把式子中的所有未知参数提出来,拉成一个向量。这些参数我们一律统称。
Step1的过程我们已经抽象到一个式子了。