常用概率分布回顾之(2)连续概率分布

上一篇文章中,我们回顾了几种离散概率分布。接下来,在本文中,将探讨几种连续概率分布。

连续概率分布

均匀分布(Uniform distribution)

均匀分布描述的是随机变量所有取值的概率均相同的概率分布。均匀分布需要定义上下界[a,b],因此所有取值的概率值为\frac{1}{b-a}
期望:
E[X]=\frac{1}{2}(b-a)

方差
var[X]=\frac{1}{12}(b-a)^2

高斯分布(Gaussian distribution)

高斯分布,又称正态分布。在视觉领域应用非常广泛,在忽略灰度值的量化时,常常用高斯分布来建模。真实世界的状态也常常用其描述。本文将重点讲解。

一元高斯分布(Univariate Gaussian Distribution)

一元高斯分布定义域为x\in{\{-\infty, +\infty\}}.有两个参数\mu\sigma^2\mu为均值,决定了高斯分布的峰值位置,\sigma^2为方差,决定了分布的宽度。
其定义为:
Pr(x)=Norm_x[\mu,\sigma^2]=\frac{1}{\sqrt{2\pi\sigma^2}}\exp[-0.5\frac{(x-\mu)^2}{\sigma^2}]

多元高斯分布(Multivariate Gaussian Distribution)

在计算机视觉领域,描述不确定性的的方式用的更多的还是多元高斯分布。类似一元高斯分布,多元高斯分布同样有两个参数:均值\boldsymbol{\mu}和协方差\boldsymbol{\Sigma}。协方差\boldsymbol{\Sigma}D \times D的正定阵。与一元高斯分布中的方差类似的,\boldsymbol{\mu}决定多元高斯分布中心(峰值)的位置,协方差\boldsymbol{\Sigma}用来描述分布的形状。
多元高斯分布的概率密度函数为:
\begin{align} Pr(x) &=Norm_x[\boldsymbol{\mu},\boldsymbol{\Sigma}] \\ &= \frac{1}{(2\pi)^{D/2}|\boldsymbol{\Sigma}|^{1/2}}\exp{[-0.5(\boldsymbol{x}-\boldsymbol{\mu})^T\boldsymbol{\Sigma}^{-1}(\boldsymbol{x}-\boldsymbol{\mu})]} \end{align}

协方差矩阵的几种形式

多元高斯分布的协方差矩阵通常分为三种形式,球形,对角和全协方差。每一种可以看做后一种的特殊形式。
球形协方差矩阵是单位矩阵的整倍数,等概率曲面是一个超球面(二元情况即圆)
球形协方差矩阵在对角线上各有一个正值,在其他地方为0,等概率曲面是一个以主轴与坐标轴对齐的超椭圆体(二元情况即主轴与坐标轴对齐的椭圆)
全协方差矩阵为一个正定矩阵,等概率曲面是不一任何特殊方式对齐的椭圆体。
在二元情况下的三种协方差矩阵分别为:
\boldsymbol{\Sigma}_{spher}=\Big \lbrack \begin{array}{lcr} \sigma^2 & 0 \\ 0 & \sigma^2 \end{array} \Big \rbrack \quad \boldsymbol{\Sigma}_{diag}=\Big \lbrack \begin{array}{lcr} \sigma^2_1 & 0 \\ 0 & \sigma^2_2 \end{array} \Big \rbrack \quad \boldsymbol{\Sigma}_{full} =\Big \lbrack \begin{array}{lcr} \sigma^2_{11} & \sigma^2_{12} \\ \sigma^2_{21} & \sigma^2_{22} \end{array} \Big \rbrack

可视化

下面用代码可视化二元情况下等概率曲线以及概率密度分布图。
可以通过\boldsymbol{\mu}的值控制中心位置,\boldsymbol{\Sigma}控制分布形状,代码如下:

import numpy as np
import matplotlib.pyplot as plt
from scipy.stats import multivariate_normal
from mpl_toolkits.mplot3d import Axes3D

mu1, mu2 = 0, 0
sigma11, sigma12, sigma21, sigma22 = 1.5, 0.7, 0.7, 0.5

x, y = np.mgrid[-5:5:.01, -5:5:.01]
pos = np.dstack((x, y))
rv = multivariate_normal([mu1, mu2], [[sigma11, sigma12], [sigma21, sigma22]])
fig = plt.figure()
ax = Axes3D(fig)
ax.plot_surface(x, y, rv.pdf(pos), cmap='rainbow')

fig2 = plt.figure()
ax2 = fig2.add_subplot(111)
ax2.contourf(x, y, rv.pdf(pos), cmap='rainbow')
plt.show()

如图所示为二元高斯分布不同协方差矩阵下等概率曲线,保持中心位置在(0, 0),改变\boldsymbol{\Sigma},分别为球形,对角和全协方差的情况:

二元高斯分布不同协方差矩阵下等概率曲线

同样的,可以画出概率密度分布图,运行代码,可以拖动图从不同的角度观察。


二元高斯分布概率密度分布图

写文章不易,点个喜欢,关注一下再走呗~

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,294评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,780评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,001评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,593评论 1 289
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,687评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,679评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,667评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,426评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,872评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,180评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,346评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,019评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,658评论 3 323
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,268评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,495评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,275评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,207评论 2 352

推荐阅读更多精彩内容

  • 多元高斯分布与一元高斯分布的关系 首先一维标准正态分布: 二维标准正态分布,就是两个独立的一维标准正态分布随机变量...
    十曰立阅读 10,107评论 2 7
  • 二元变量 伯努利分布 似然函数为 对数似然函数为 如果我们令关于u的导数等于零,我们就得到了最大似然的估计值 现在...
    初七123阅读 1,552评论 0 4
  • 听着十年,回忆十年,痛彻心扉; 听着十年,再等十年,念念不忘; 听着十年,又过十年,我心不死。
    d11c17ed2c11阅读 132评论 0 1
  • 喂 你听说了吗 高脂肪坚果也能减肥了!专家告诉你讲过怎么吃才能够减肥,轻松让你成为明星一样窈窕的瘦美人。 真的假的...
    c3d1478cbb40阅读 242评论 0 0
  • 魔鬼往往以善良天使的样子出现,让你深信不疑 爱情就像苹果,不能光看外表鲜艳光亮,只有要一口还能知道里面是好是坏 今...
    5f785ca19694阅读 171评论 0 0