逻辑回归通解与概率计算

公式推导

统计学习方法一书中，作者在开始就引出了sigmoid函数，这里从事件发生的几率(odds)开始推导，我觉得这样更加一目了然
设事件发生的概率为p：
几率 = \frac{p}{1-p}
对数几率:
logit(p=1|x)=log\frac{p}{1-p}

logit曲线

而我们最终训练得到的回归线，对应的就是的值，即：

设

这就是sigmoid函数
image

h>0，则p>0.5，是1的概率就高，所以逻辑回归可以不仅可以预测是0还是1，而且可以给出预测的概率(这句话反过来说或许更合适，应该是根据概率才给的结果)
代入就得到

用lr.predict_proba预测是所给出的概率，就是将权重w和偏差b带入上式的结果

©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容