贝叶斯分析

大数据,机器学习,家庭纠纷,辛普森案,邮件过滤,判别男女,这些看起来不相关的领域之间有什么联系?答案是,他们都会用到同一个数学公式---贝叶斯公式

1、贝叶斯框架下的概率理论

概率是我们的一个主管概念,表明我们对某件事情发生的相信程度,它解决的是来自外部的信息与我们大脑内新年的交互关系。

两种对于概率的解读区别了频率流派和贝叶斯流派。

先验概率——新信息——贝叶斯定理——后验概率

2、家庭纠纷

例如:在你老公的包里发现口红,出轨概率是多少?

a/他在没有任何概率情况下出轨概率是多少?如果他是个老实巴交的程序员或者风流倜傥的CEO,那么显然不该一视同仁。

b/如果你老公出轨了,那么他有口红的概率是多少?如果没出轨,出现这个概率的情况是多少?会不会有没出轨但出现口红的情况?是不他人陷害?

c/根据1和2求最终问题,

这里1是先验概率P(A),2是条件概率P(B|A),最终得到3后验概率P(A|B),这三种即是贝叶斯统计的三要素。

P(A|B)=P(AnB)/P(B)

你得到1,2就可以根据公式计算出根据口红出现判断出轨的概率。先验概率即在我们取得证据之前所定义的概率P(A),这个值通常跟我们之前的尝试,带有一定的主观色彩,像刚刚,代表对男人的信心。

一个有趣的现象是如果我们的先验概率审定为1或0(即肯定某事发生),那么无论我们如何增加证据也依然得到同样的条件概率此时P(A)=0或1,P(A|B=0或1)这告诉我们的第一个经验就是不要过早下论断,下了论断,你的预测也无法进化了。如果你想让你的认知进步,就要给各种假设留一点想象空间。

贝叶斯分析看辛普森案件

贝叶斯分析的思路对于由于证据的积累来推测一个事物发生的概率具有重大作用,它告诉我们,当我们要预测一个事物,我们需要的是首先,根据已有的经验和认知推断一个先验概率,然后在新证据不断积累的情况下调整这个概率,整个通过积累证据来得到一个事件发生的概率,就称为贝叶斯分析。

贝叶斯分析可以瞬间理解一些常用的理论,如幸存者偏差,如,你发现一些没读过书的人很有钱,事实上是你发现就已经是幸存者了,而死了的人都没见到;还有阴谋论,阴谋论的特点是条件很多很复杂,但条件一旦成立,结论几乎成立,你一旦考虑了先验,这些条件成立本身即很困难,阴谋论不攻自破(红圈和篮圈的面积,很少我们在开始就知道,这才是应用中的难点)。

此处,贝叶斯分析的框架也在教我们如何处理特例与一般常识的规律。

如果你太注重特例(即完全不看先验概率)很有可能会误把噪声看作信号,而奋不顾身的跳下去。

如果恪守先验概率,就会成为无视变化而墨守成规的人。其实只有贝叶斯流的人生存率会更高,因为他们会重视特例,但也不忘记书本的经验,根据贝叶斯公式小心调整信息,甚至会主动设计实验根据信号判断假设,这就是我们下一步要讲的。

贝叶斯决策如何判定男女

贝叶斯决策主要包含四个部分:数据D,假设W,目标O,决策S。此处,数据即之前讲到的证据,假设我们要检验的是事实,目标是我们最终要取得优化的量,决策是根据目标得到的最后行为。与上一步贝叶斯分析增加的部分是目标和决策。假设问题里如果是连续的往往以参数空间的形式表达。

然后,我们可以按如下步骤操作:

第一,理清因果链条,哪个是假设,哪个是证据。

第二,给出所有可能的假设,即假设空间。

第三,给出先验概率

第四,根据贝叶斯概率公式求解后验概率,得到假设空间的后验概率分布。

第五,根据后验概率求解条件期望,得到条件期望最大值对应的行为。

贝叶斯决策如果一旦变成自动化的计算机算法,它就是机器学习。我们就用贝叶斯决策全是一个最简单的机器学习分类算法——朴素贝叶斯。

假设给你一个人的身高和体重资料,你不知道他的男女性别,你可以通过我上述给的贝叶斯决策机制解决这个问题。

首先,我们的证据是身高和体重,假设是男或女。先验概率是人口中的男女比例,而我们需要掌握的是条件概率是男性和女性的升高和体重分布,这应该是很好站掌握的信息。

然后我们可以根据贝叶斯公式求解后验概率,而此处我们要做的决策是男女,目标是分类错误率最低,决策即性别分类。

此处我们用到的一个基本假设就是证据是相互独立的,使我们能够求更简单的公式。(朴素贝叶斯,核心在于假设证据相互独立)

投硬币的概率并不是50%

事实上,贝叶斯很少只涉及A和B,而是内部包含非常关键的隐变量(参数),涉及我们对所研究事物的一些基本假设,比如下面这个简单的例子:

抛硬币,10次中9次朝上,根据频率派的观点,得到第11次的概率不变为0.5,如果你回答了0.9,你经常会被看成一个傻瓜,其实不然。那么问题来了,我设一个赌局,一次正面向上你可以收益100,反面惩罚150,给予刚才的事实你要不要做这个局?

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 222,252评论 6 516
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,886评论 3 399
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 168,814评论 0 361
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,869评论 1 299
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,888评论 6 398
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,475评论 1 312
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 41,010评论 3 422
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,924评论 0 277
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,469评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,552评论 3 342
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,680评论 1 353
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,362评论 5 351
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 42,037评论 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,519评论 0 25
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,621评论 1 274
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 49,099评论 3 378
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,691评论 2 361

推荐阅读更多精彩内容