概率图模型简单介绍

这篇文章中,我将对概率图模型做一个简单的综述,以使读者能尽快了解其大概思想,而忽略其背后的具体的数学推到过程。主要是因为自己的论文使用条件随机场的缘故,所以我就顺便把概率图模型理解下。

概率与图简述


很多事情是具有不确定性的。人们往往希望从不确定的东西里尽可能多的得到确定的知识、信息。为了达到这一目的,人们创建了概率理论来描述事物的不确定性。在这一基础上,人们希望能够通过已经知道的知识来推测出未知的事情,无论是现在、过去、还是将来。
涉及到概率的相关问题,无论有多复杂,大抵都是基于以下两个式子的——加法准则和乘法准则:

下面这张图描述的就是一张图,它由带有数字的圆圈和线段组成,我们将圆圈成为结点,线段成为边,那么这个图就可以表示为G(V, E), 其中V是顶点集合,E是边的集合。如果边有方向,那么G为有向图,若没有方向,那么G为无向图。具体的关于图的知识,可以参考离散数学中图论相关知识。

概率图


前面简单阐述了概率和图论的知识,下来说概率图。
在数学上,有的概念本身开始不存在,是由后来其它基本的概念组合演化而来的。所以概率图也是属于这么一种情况。概率图本身开始并不存在,它是图论和概率论结合的产物,它的开创者是鼎鼎大名的Judea Pearl。总体来说,概率图使得概率模型可视化了,这样就使得一些变量之间的关系能够很容易的从图中观测出来;同时有一些概率上的复杂的计算可以理解为图上的信息传递,这是我们就无需关注太多的复杂表达式了。最后一点是,图模型能够用来设计新的模型。所以多引入一数学工具是可以带来很多便利的,我想这就是数学的作用吧。
概率图使用图G(V, E)来表示随机变量X的概率分布,其中X对应着图中的顶点集合V,变量之间的依赖关系可以由顶点之间的边表示,若两个顶点间有一条路径相通,那么这两个顶点所表示的变量之间就有依赖关系,否则互相独立。

方向的问题


既然图分为有向和无向两种,那么概率图也是分为有向和无向两种。有向图的代表为贝叶斯网络,无向图的代表为马儿科夫随机场。

概率有向图


举个例子,譬如有一组变量X1,X2….XN,如果每个变量只与其前一个变量有关(1阶马尔可夫过程),那么以下等式成立:

那么如何用图来表示这一关系呢?自然,我们要表示的是右边的式子,右边的式子表示了变量之间的联系。而当我们观察条件概率时,我们发现我们必须要指明哪个是条件。如果我们采用变量为节点,采用无向图这种节点等价的关系显然不能直接描述条件概率,因此这里选择了有向图来描述这一关系,即表示为P(X2|X1)

那么此时上述的1阶马尔可夫过程表示为,注意其中没有箭头指向X1,故表示p(X1)意味着无条件。

有向图模型,或称贝叶斯网络,描述的是条件概率,或许这就是其被称为贝叶斯网络的原因吧。

概率无相图

对于概率无向图,主要区别与概率有向图的是,其中的随机变量满足成对,局部,全局马儿科夫性,那么就称此概率图为概率无向图模型,或马儿科夫随机场。
其实,我这里除了无向图的马儿科夫性的定义,对于概率有向无向图的区别,我还是不能分清,因为我认为有向图之于无向图,最大的区别在于方向性,概率的方向性在于条件依赖。

参考文献:

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,651评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,468评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,931评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,218评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,234评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,198评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,084评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,926评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,341评论 1 311
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,563评论 2 333
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,731评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,430评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,036评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,676评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,829评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,743评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,629评论 2 354

推荐阅读更多精彩内容

  • 在之前的一段时间里,忙于周围的乱七八糟的事情,在更新了上一期之后自己也很久没有更新,自己也想,如果自己没有用一种良...
    云时之间阅读 2,432评论 0 5
  • 机器学习的核心思想就是根据已知的内容去推测未知的内容,然后在已知和未知之间建立起联系,这个联系就是机器学习中的各种...
    闪电随笔阅读 3,889评论 1 7
  • 今天无力感觉很浓烈。 稍微看了看书,没有什么获得。午睡后起床困难,感觉无力。 儿子放学时,...
    coco_lin阅读 129评论 0 0
  • 今天,难得的空闲时间,去文博会转了一遭。去时,是雀跃的,怀揣着想象的场景,有些憧憬。回来时,像霜打的茄子,蔫蔫的,...
    Miss苏朵儿阅读 964评论 1 2
  • HashMap的工作原理是近年来常见的Java面试题。几乎每个Java程序员都知道HashMap,都知道哪里要用H...
    Gallrax阅读 567评论 0 5