逻辑回归

1.背景介绍

考虑二分类任务，其输出标记y \in \{0,1\}，而线性回归模型产生的预测值z = \mathbf{\omega^Tx}+b是实值，于是，我们需将实值转换为0/1值，最理想的是“单位跃迁函数”(unit-step function)
y = \begin{cases} 0 & \quad z < 0 \\ 0.5 & \quad z =0 \\ 1 & \quad z > 0 \end{cases}
即预测值z大于0就判断为正例，小于零则判为反例，预测值为临界值零则任意判断。

单位跃迁函数不连续，我们希望找到能在一定程度上近似单位跃迁函数的“替代函数”，并希望它单调可微，对数几率函数(logistic function)正是这样一个常用的替代函数
y = \frac{1}{1+e^{-z}}

[站外图片上传中...(image-c17410-1564904822433)]

对数函数是一个sigmoid函数，它将z值转化成一个接近0或者1的y值，并且输出的值z=0附近变化很陡
y=\frac{1}{1+e^{-(w^Tx+b)}} \space (1.1)
ln\frac{y}{1-y} = w^Tx+b
若将y视为样本x作为正例的可能性，则1-y是其反例可能性，两者的比值\frac{y}{1-y}，称为几率，反映了x作为正例的可能性，对几率取对数得到“对数几率”,ln\frac{y}{1-y}

(1.1)式实际上是用线性回归模型的预测结果去逼近真实标记的对数几率，因此，其对应的模型称为“对数几率回归”(logistic regression)，特别注意的是，虽然它的名字是回归，但实际上是一种分类学习方法。这种学习方法有很多优点，例如它是直接对分类可能性进行建模，无需事先假设数据分布，这样就避免了假设分布不准确所带来的问题；它不仅预测出“类别”，而且可得近似概率预测，这对许多需要利用概率辅助决策的任务很有用。此外，对数几率回归求解的目标函数是任意阶可导的凸函数，有很好的数学性质，现有的许多数值优化算法可直接用于求解。

2.二项逻辑回归模型

二项逻辑回归是如下条件概率分布
\begin{align} P(Y=1|x) = \frac{exp(w*x+b)}{1+exp(w*x+b)} \\ P(Y=0|x) = \frac{1}{1+exp(w*x+b)} \end{align}

log \frac{P(Y=1|X)}{1-P(Y=1|X)}=w*x+b
这时，线性函数的值越接近正无穷，概率值就越接近1,；线性函数的值就越接近负无穷，概率值就越接近0，这样的模型就是逻辑回归模型。

3.模型参数估计

逻辑回归模型学习时，对于给定的训练数据集T=\{(x_1,y_1),(x_2,y_2),\dots,(x_N,y_N)\}，其中x_i \in R^n,y_i \in \{0, 1 \}，可以应用极大似然估计法估计模型参数，从而得到逻辑回归模型
设：
P(Y=1|x) = \pi(x) P(Y=0|x)=1-\pi(x)
似然函数为
\prod[\pi(x)]^{y_i}[1-\pi(x)]^{1-y_i}
对数似然函数为：
\begin{align} L(w)=\sum_{i=1}^N[y_i log \pi(x_i)+(1-y_i)log(1-\pi(x_i))] \\ = \sum_{i=1}^N[y_i log \frac{\pi(x_i)}{1-\pi(x_i)}+log(1-\pi(x_i))] \\ =\sum_{i=1}^N[y_i(w*x_i)-log(1+exp(w*x_i)] \end{align}
对L(W)求极大值，得到w的估计值
这样问题就变成了以对数似然函数为目标函数的最优化问题，逻辑回归学习中通常采用的方法是梯度下降法及拟牛顿法

假设w的极大似然估计值是\hat w，那么学习到的逻辑回归模型为
\begin{align} P(Y=1|x) = \frac{exp(\hat w*x+b)}{1+exp(\hat w*x+b)} \\ P(Y=0|x) = \frac{1}{1+exp(\hat w*x+b)} \end{align}

©著作权归作者所有,转载或内容合作请联系作者
  • 人面猴
    序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
    沈念sama阅读 212,686评论 6赞 492
  • 死咒
    序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
    沈念sama阅读 90,668评论 3赞 385
  • 救了他两次的神仙让他今天三更去死
    文/潘晓璐 我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
    开封第一讲书人阅读 158,160评论 0赞 348
  • 道士缉凶录：失踪的卖姜人
    文/不坏的土叔 我叫张陵，是天一观的道长。 经常有香客问我，道长，这世上最难降的妖魔是什么？ 我笑而不...
    开封第一讲书人阅读 56,736评论 1赞 284
  • 港岛之恋（遗憾婚礼）
    正文 为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
    茶点故事阅读 65,847评论 6赞 386
  • 恶毒庶女顶嫁案：这布局不是一般人想出来的
    文/花漫 我一把揭开白布。 她就那样静静地躺着，像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上，一...
    开封第一讲书人阅读 50,043评论 1赞 291
  • 城市分裂传说
    那天，我揣着相机与录音，去河边找鬼。 笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。 我是一名探鬼主播，决...
    沈念sama阅读 39,129评论 3赞 410
  • 双鸳鸯连环套：你想象不到人心有多黑
    文/苍兰香墨 我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
    开封第一讲书人阅读 37,872评论 0赞 268
  • 万荣杀人案实录
    序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
    沈念sama阅读 44,318评论 1赞 303
  • 护林员之死
    正文 独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,645评论 2赞 327
  • 白月光启示录
    正文 我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,777评论 1赞 341
  • 活死人
    序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
    沈念sama阅读 34,470评论 4赞 333
  • 日本核电站爆炸内幕
    正文 年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
    茶点故事阅读 40,126评论 3赞 317
  • 男人毒药：我在死后第九天来索命
    文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,861评论 0赞 21
  • 一桩弑父案，背后竟有这般阴谋
    文/苍兰香墨 我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,095评论 1赞 267
  • 情欲美人皮
    我被黑心中介骗来泰国打工， 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。 一个月前我还...
    沈念sama阅读 46,589评论 2赞 362
  • 代替公主和亲
    正文 我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
    茶点故事阅读 43,687评论 2赞 351

推荐阅读更多精彩内容