ml-代价函数

目标：拟合逻辑回归模型的参数\theta
通过定义用来拟合参数的优化目标，即：代价函数

但是将ℎ_𝜃 (𝑥) = 𝑔(𝜃^T𝑋)代入得到的代价函数是一个非凸函数(non-convexfunction)。

重新定义逻辑回归的代价函数

Cost()函数特点：
当实际的 𝑦 = 1 且ℎ_𝜃 (𝑥)也为 1 时误差为 0
当 𝑦 = 1 但ℎ_𝜃 (𝑥)不为 1 时误差随着ℎ_𝜃 (𝑥)变小而变大；
当实际的 𝑦 = 0 且ℎ_𝜃 (𝑥)也为 0 时 代价为 0
当𝑦 = 0 但ℎ_𝜃 (𝑥)不为 0 时误差随着 ℎ 𝜃 (𝑥) 的变大而变大。

可以证明：我们所选的代价函数J(\theta)是凸函数，并且没有局部最优值。
得到代价函数之后，进行特征缩放，再使用梯度下降算法。

©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容