统计学(16)-什么是虚拟变量/哑变量

此部分对我来说,还是比较难于理解的。我只做简单介绍,后续如果有新的体悟,会再次更新。
定义:虚拟变量(Dummy Variable) 也叫哑变量,它算不上一种变量类型,确切地说,是将多分类变量转换为二分类变量的一种形式。
Dummy Variable 的意思就是假的变量,不是真实的变量。(厉害吧!)

1、举例子:

例1:
某研究者检测了4 种社区类型的S02 水平。研究者欲分析社区类型是否与S02水平有关系,或者说,不同社区类型的S02 水平是否不同。

image.png

在该研究中,有很明显的因变量( S02 水平)和自变量(社区类型)。
image.png

上图的转换类似于dplyr包中的标准数据转换。
强调一点:
不管是一般线性模型还是广义线性模型,它们都是“线性"的,只要你采用了这些模型,就已经默认了自变量与因变量之间的关系是线性的。
一般线性模型处理结果:
image.png

随着社区类型从0 到3 的改变,S02 水平是线性增加的,增加的幅度(斜率)是207.8 。也就是说,社区类型从0 变为1, S02 水平增加207.8μg/m3;社区类型从1 变为2, S02 水平增加207.8μg/m3; 社区类型从2 变为3,S02 水平增加207.8μg/m3。
但我们会发现,事实并非如此。当社区类型从0变为1时, S02水平似乎增加的幅度更大;而当社区类型从1 变为2时,S02水平似乎增加的幅度没有这么大。
其实,从这里,我们就可以很容易看出来,207.8仅仅是一个平均幅度,是社区类型从0变为3增加的平均幅度。
我们想具体了解社区类型从0变为1、从1 变为2 、从2 变为3时S02水平真实的增加值,就需要用到虚拟变量。

2、虚拟变量

所谓虚拟变量,就是把原来的一个多分类变量转换为多个二分类变量,总的来说,就是,如果多分类变量有K 个类别,则可以转换为k-1个二分类变量。如变量x为赋值1、2 、3 、4的四分类变量,就可以转换为3个赋值为0和1的二分类变量。(现在有点理解,其实就是按照顺序进行的变化趋势,临近数值的分类)。

3、参照的含义

分类结果的解释一般是要有参照类别的。
比如我们说男性肺癌发生率高,暗含了"相对于女性”这样的参照; 50 岁以上人群冠心病发生率更高,暗含了"相对于50 岁以下人群”这样的参照。
没有参照,就没法说高或低。比如80%,是高还是低呢?那要看是和70%还是90%比。

4、虚拟变量的生成

当我们把k个类别的多分类变量转换为k-1个二分类变量后,每个二分类变量表示相对参照类的大小。例如,多分类变量x用1 、2 、3 、4 表示,我们设定以1 作为参照,那么生成的3个虚拟变量分别表示2 和1相比的大小、3 和1相比的大小、4 和1相比的大小。
通过生成虚拟变量,就把原来的一个系数变成了多个系数,这多个系数更详细地展示了自变量与因变量之间的关系,在自变量与因变量呈非线性关系的时候,这尤其重要。因为当你使用线性回归、Logistic 回归这些方法的时候,实际上已经默认自变量与因变量是线性关系了,你是不可能找出非线性关系的。

image.png

定量变量为直线
虚拟变量给出了真实的拟合效果,而定量变量在社区类型=0时高估,在社区类型=1时低估,结果很容易有偏。
在作为定量资料的时候,我们计算的斜率只有一个,即207.8 。而将其作为3 个虚拟变量后,便计算出3个系数,分别为431 、509.4 、666.6。

5、小结一下

什么时候用虚拟变量?
虚拟变量主要用于多分类自变量与因变量是非线性关系的时候,如果多分类自变量与因变量已经是线性关系了,就没有必要用虚拟变量了。因为此时线性关系已经可以很好地刻画出二者的关系了。

???在线性回归、Logistic 回归、Poisson 回归、Cox 回归等各种回归中,都有可能用到虚拟变量。(很费解)

虚拟变量有什么优点和缺点?
优点:当多分类自变量与因变量的关系不是线性关系的时候,虚拟变量可以更真实地展示二者的关系。
缺点:把一个多分类变量转换为虚拟变量后,自变量数目会增多,如一个四分类变量就会生成3个虚拟变量。如果你的样本量不是很大,那么自变量的增加会导致估计结果不稳定。
设置虚拟变量时如何指定参照类?
主要根据专业和研究目的。如年龄,如果你想了解高年龄组与低年龄组的比较情况,那就把低年龄组设为参照。一般尽量把危险低的设为参照组,如在社区类型中,把对照区(社区类型=0) 设为参照。
这个危险低的理解,是不是就是说熵小呢?以后再解决。
如果虚拟变量的结果不一致该怎么办?
如果产生了3个虚拟变量,其中1个虚拟变量的P<0.05, 另外2 个虚拟变量的P>0.05, 那么你在报告结果时仍需要把这3个虚拟变量的结果都展示出来,而不是只展示有统计学意义的那一个。在列方程时也需要把3个虚拟变量的系数都列在方程中。(这个看不懂!)

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 在统计学10-回归一文中介绍了一元线性回归的概念。假设我们现在有多个解释变量,如何构造多元线性回归模型呢? 第一个...
    赵阳_c149阅读 2,310评论 0赞 7
  • 2019-02-22,星期五,晴在构建回归模型时,如果自变量X为连续性变量,回归系数β可以解释为:在其他自变量不变...
    医博云天阅读 1,825评论 0赞 2
  • 回归分析是一种预测性的建模技术,它研究的是因变量(目标)和自变量(预测器)之间的关系。这种技术通常用于预测分析,时...
    wyrover阅读 12,446评论 0赞 13
  • 1. 简述相关分析和回归分析的区别和联系。 回归分析和相关分析都是研究两个或两个以上变量之间关系的方法。 广义上说...
    安也也阅读 9,327评论 0赞 3
  • 机器学习术语表 本术语表中列出了一般的机器学习术语和 TensorFlow 专用术语的定义。 A A/B 测试 (...
    yalesaleng阅读 2,247评论 0赞 11

友情链接更多精彩内容