第十讲 分类问题

一、逻辑回归





利用对数几率函数（即逻辑函数）进行的回归，叫做 对数几率回归（或逻辑回归），由于本质上是连续的函数


注意：不要将y_{i} 与\hat{y} 搞反了，由于y_{i} 不是0就是1，会使\ln y 或\ln (1-y)没有意义，而\hat{y} 只会无限接近0或1，永远不会等于0或1，不存在这个问题。

补充：Sigmoid函数求导

如果x为wxi+b，根据链式法则，对w求导，前面会出现xi。


二、实例：实现一元逻辑回归

当是一元函数时，实际上就是拟合分类的图形。当是多元函数时，就没有只有一个输入对应一个输出那么形象了，多个输入经过XW后，对应有规律的数字。

事实上，Logsitic回归模型已经初具深度学习中神经元的雏形，只是在深度学习中，logistic函数被称为“激活函数”。我们常听的sigmoid函数就是logistic函数，除了sigmoid，出名的激活函数还有tanh , relu等。













三、线性分类器




四、实例：实现多元逻辑回归

4.1 实现多元逻辑回归



























4.2 绘制分类图















五、多分类问题









六、实例：实现多分类问题













最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容