[机器学习算法]定序回归

简介

传统的线性回归模型预测的因变量取值范围为任意实数,在实际应用中我们常常需要对非连续型数据建模,其中一类的典型的数据即是定序数据ordinal data

一般我们以没有数值意义但是有顺序意义的数据统称为定序数据。最常见的例子就是问卷调查给出的选项:非常满意、满意、一般、不满意、非常不满意就是一类定序数据。定序变量介于连续变量和定类变量之间,是在测量层次上被分为相对次序的不同类别、但并不连续。

使用定序回归的原因

如果对定序变量使用多分类logit模型,那么会无视数据内在的排序从而导致排序信息的缺失,使得统计结果因为遗漏掉排序信息而丧失统计效率。如果使用普通线性回归模型,那么就是将定序变量视为连续变量处理,会导致人为的信息膨胀。因此,针对定序变量,需要采用对应的模型来拟合其两方面的性质,最常用的方法即定序回归模型ordered logit/probit model

建立模型

当我们评价某产品时,会形成对一个产品的喜好程度,我们将其记为Z,它反映了个人对其的标准化评分。而要把对产品的喜好程度转化为问卷上的打分时需要建立一定的判断标准,这一套判断标准由一组阈值c_k构成,喜好落在某两个相邻的阈值之间就会给出某个具体的打分(非常满意、满意、一般、不满意、非常不满意中的一个)。具体的对应方式如下所示:
scores = \begin{cases} 1, Z < c_1 \\ 2, c_1 \leq Z < c_2 \\ 3, c_2 \leq Z < c_3 \\ 4, c_3 \leq Z < c_4 \\ 5, c_4 \leq Z \end{cases}
我们假设因变量是通过影响喜好程度来影响消费者打分scores = 1,2,...,5,而 Z 是一个取任意值的连续性变量。我们可以用普通线性回归模型来刻画 Z 与因变量W之间的关系:
Z=\beta_0 + \beta * W + \epsilon
从而判断分数不超过k的概率就是:
\begin{aligned} P(scores < k) &= P(Z \leq c_k) \\ &= P(\beta_0 + \beta * W + \epsilon \leq c_k) \\ &= P(\epsilon \leq c_k -\beta_0 - \beta * W) \\ &= F_{\epsilon}(\alpha_k - \beta * W) \end{aligned}
其中\alpha_k = c_k -\beta_0F_{\epsilon}(t) = P(\epsilon < t)\epsilon的分布函数。至此我们获得了一个关于定序变量的回归模型,如下所示:
P(scores \leq k) = F_{\epsilon}(\alpha_k - \beta * W)

probit定序回归和logit定序回归

由于定序数据可能取值的数量大于2(相较于普通的零一回归),因此会有好几个不同的截距\alpha_k。例如当scores5个不同的取值时会对应4个不同的截距项,并且截距之间满足关系\alpha_1 < \alpha_2 < \alpha_3 < \alpha_4,斜率\beta只有一个取值。在实际问题建模中,我们更关心因变量和自变量的相互关系而非截距项的取值。
有一个方便的假定是将F_{\epsilon}(t)假设成标准正态分布和逻辑分布,分别对应着probit定序回归和logit定序回归。模型分别如下:
P(score \leq k) = \Phi(\alpha_k - \beta * W)
P(score \leq k) = \frac{exp(\alpha_k - \beta * W)}{1+ exp(\alpha_k - \beta * W)}

probit定序回归和logit定序回归之间孰优孰劣至今没有定论,但是都是非常有用的统计方法,并且统计结果往往及其相似。

参数估计与统计推断

由于probitlogit定序回归的估计方法和推断方法极其相似,因此我们中讨论probit定序回归。

假设score_iW_i来自第i个样本的观测,则样本取值为k的概率为:
P(score = k) = f_k(W_i) = \begin{cases} \Phi(\alpha_1 - \beta * W_i), k=1 \\ \Phi(\alpha_k - \beta * W_i)-\Phi(\alpha_{k-1} - \beta *W_i), 1<k<5 \\ 1-\Phi(\alpha_4 - \beta * w_i), k=5 \end{cases}
样本似然函数为:
L(\beta_0, \beta) = \prod_{i=1}^{n}\prod_{k=1}^{5}\{f_k(W_i)\}^{I\{score_i = k\}}

一般对于指数级/连乘函数求极值时常使用取对数的方法,方便求导降低计算量。

对应的极大似然函数为:
log(L(\beta_0, \beta)) = \sum_{i=1}^{n} \sum_{k=1}^{5}I\{score_i = k\} * log\{f_k{W_i}\}
求解极大似然函数我们可以获得参数估计值为(\hat{\beta_0}, \hat{\beta}),我们并不知道(\hat{\beta_0}, \hat{\beta})的具体分布,但是在样本量足够大的情况下,根据中心极限定理:
\frac{\hat{\beta_j}-\beta_j}{\sqrt{Var(\hat{\beta_j})}} = \frac{\hat{\beta_j}-\beta_j}{\sigma(\hat{\beta_j})} \sim N(0, 1)
我们可以构造检验统计量T_j=\frac{\hat{\beta_j}}{\hat{\sigma(\hat{\beta_j})}},当原假设\beta_j=0成立时,该统计量近似服从标准正态分布。因此可以根据T_j的绝对值是否大于z_{1-\alpha/2}来判断是否拒绝原假设。

\alpha指的是显著性水平,即参数落在某一区间内可能犯错的概率。

Reference

[1] 厦大课件-定序回归
[2] 回归分析在社会科学中的应用

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,402评论 6 499
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,377评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,483评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,165评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,176评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,146评论 1 297
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,032评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,896评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,311评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,536评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,696评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,413评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,008评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,659评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,815评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,698评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,592评论 2 353

推荐阅读更多精彩内容

  • 面试的是BAT某家机器学习岗 1.可以用于任务分配的算法 贪心,动态规划,分支限界法,拍卖算法以及一些人工智能算法...
    HeartGo阅读 3,343评论 7 34
  • 回归分析可以说是统计学中内容最丰富、应用最广泛的分支。这一点几乎不带夸张。包括最简单的 t 检验、方差分析也都可以...
    wyrover阅读 5,434评论 2 20
  • 如果研究X对于Y的影响,Y为定量数据则可以使用线性回归分析。如果Y是定类数据,此时则需要使用Logit(logis...
    spssau阅读 29,296评论 0 9
  • 姓名:唐来宾 学号:17101223417 转载http://mp.weixin.qq.com/s/-CSSh2p...
    ahbz_t阅读 1,360评论 1 4
  • 去苏州,一定不能错过平江路。 小路沿河而建,全长不过三里多,迈几步便瞧见小桥,顺着桥的那端又延伸出一条条小巷,她们...
    什么样的幸福阅读 403评论 1 1