随机变量之和的概率分布:卷积定理的简单应用

本文链接个人站 | 简书 | CSDN
版权声明:除特别声明外,本博客文章均采用 BY-NC-SA 许可协议。转载请注明出处。

我们在《一个最大化条件概率问题》一文中提到,为了满足商品采购业务的需要,我们首先预测每一天的需求所服从的概率分布,然后计算若干天总需求所服从的概率分布。那么,如何将日需求的分布转化为总需求的分布呢?

方法

考虑一组独立的随机变量 X_1, X_2, \cdots, X_n,令
S_n=\sum_{i=1}^{n} X_i

S_n = S_{n-1} + X_n
也就是说,多个随机变量的和总可以还原回两个随机变量的和的情况。因此,我们只需要知道如何计算两个随机变量的和的分布就可以了。

假设 XY 是两个独立的随机变量,令 Z=X+Y

  • XY 是离散型随机变量,则 Z 的概率质量函数为 X 的概率质量函数与 Y 的概率质量函数的离散卷积:
    P(Z=z) = \sum_{k=-\infty}^{+\infty}P(X=k)\cdot P(Y=z-k)

  • XY 是连续型随机变量,则 Z 的概率密度函数为 X 的概率密度函数与 Y 的概率密度函数的卷积:
    f_Z(z) = \int_{-\infty}^{+\infty}f_X(x)f_Y(z-x)\mathrm dx\equiv f_X*f_Y

卷积怎么算呢?根据定义直接算,可以,但没必要。复习一下卷积定理:

函数卷积的傅里叶变换是函数傅里叶变换的乘积。

对于离散型随机变量,我们只需要用 FFT 算法计算 XY 的概率质量函数的离散傅里叶变换,然后作乘积,再作一次逆变换,即可求得 Z 的概率质量函数。对于连续型随机变量,则可以先离散化,然后用上述方法近似求解 Z 的概率密度函数。

作为调包工程师,我们直接调用 scipy.signal.fftconvolve 实现来上述操作。

例子

我们来验证一下。

假设 X\sim N(30, 10^2)Y\sim N(60, 5^2),则 Z\sim N(90, 10^2+5^2)

import numpy as np
import matplotlib.pyplot as plt
from scipy.stats import norm
from scipy.signal import fftconvolve

x = norm.pdf(np.arange(100), loc=30, scale=10)
y = norm.pdf(np.arange(100), loc=60, scale=5)
z = norm.pdf(np.arange(200), loc=90, scale=np.sqrt(125))
z_tilde = fftconvolve(x, y)

plt.subplot(121)
plt.plot(x, color='b', label='pdf of X')
plt.plot(y, color='g', label='pdf of Y')
plt.legend()
plt.subplot(122)
plt.plot(z, color='r', label='analytical pdf of Z')
plt.plot(z_tilde, color='y', label='numerical pdf of Z')
plt.legend()
plt.show()
正态分布之和

再看一个例子。

考虑一组独立的随机变量 X_1, X_2, \cdots, X_{100},满足 X_i\sim Bernoulli(0.3),即每个 X_i 均服从成功概率 p=0.3 的伯努利分布。令 Z=X_1+X_2+\cdots+X_{100},即 Z 是 100 次独立重复试验中成功的次数。根据定义,Z 服从二项分布。

import numpy as np
import matplotlib.pyplot as plt
from scipy.stats import binom
from scipy.signal import fftconvolve
from functools import reduce

xs = [[0.7, 0.3] for _ in range(100)]
z = binom.pmf(np.arange(100), n=100, p=0.3)
z_tilde = reduce(fftconvolve, xs)

plt.plot(z, label='analytical pmf of Z')
plt.plot(z_tilde, label='numerical pmf of Z')
plt.legend()
plt.show()
伯努利分布之和

最后看看实际计算总需求时的效果:


从日需求到总需求

附录

附上卷积定理的简单推导:

考虑函数 f(t)g(t),以及它们的卷积 h=f*gf(t)g(t) 的傅里叶变换分别为
\hat f(\omega) = \int_{-\infty}^{+\infty}f(t)\mathrm e^{-i\omega t}\mathrm dt
\hat g(\omega) = \int_{-\infty}^{+\infty}g(t)\mathrm e^{-i\omega t}\mathrm dt
h(t) 的傅里叶变换为
\begin{aligned} \hat h(\omega) &= \int_{-\infty}^{+\infty}h(t)\mathrm e^{-i\omega t}\mathrm dt\\ &= \int_{-\infty}^{+\infty}\left[\int_{-\infty}^{+\infty}f(\tau)g(t-\tau)\mathrm d\tau\right]\mathrm e^{-i\omega t}\mathrm dt\\ &= \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}f(\tau)g(t-\tau)e^{-i\omega t}\mathrm dt\mathrm d\tau \end{aligned}
s=t-\tau,则 \mathrm ds = \mathrm dt
\begin{aligned} \hat h(\omega) & = \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}f(\tau)g(s)e^{-i\omega (\tau+s)}\mathrm ds\mathrm d\tau\\ &= \int_{-\infty}^{+\infty}f(\tau)e^{-i\omega \tau}\mathrm d\tau\int_{-\infty}^{+\infty}g(s)e^{-i\omega s}\mathrm ds\\ &=\hat f(\omega)\cdot\hat g(\omega) \end{aligned}

参考文献

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 220,699评论 6 513
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,124评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 167,127评论 0 358
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,342评论 1 294
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,356评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,057评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,654评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,572评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,095评论 1 318
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,205评论 3 339
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,343评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,015评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,704评论 3 332
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,196评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,320评论 1 271
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,690评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,348评论 2 358

推荐阅读更多精彩内容

  • 离散随机变量及其概率分布 一.随机变量 1.1随机变量 随机变量:假如一个变量在数轴上的取值依赖随机现象的基本结果...
    微斯人_吾谁与归阅读 9,744评论 0 9
  • 随机变量是根据偶然性取值的变量。我们在谈到随机变量时,通常是以“概率分布”的形式来描述他们。也即:随机变量落在每一...
    小狸投资阅读 5,374评论 1 7
  • 一、度量事件发生的可能性 概率 定义:概率是对事件发生的可能性大小的度量明天降水的概率是80%。这里的80%就是对...
    EvanForEver阅读 4,094评论 1 9
  • 基础概念 1.概率 概率直观上是指一个事件发生可能性大小的数量指标 概率的统计定义:在不变的条件下,重复进行nn次...
    凭栏听雨_t阅读 1,251评论 0 0
  • 今天是吃吃吃的一天 中午做了酸菜鱼 下午做了腊肉 明天带饭去公司吃 很讨厌现在的公司 但是为了自己经验的积累 加上...
    aaaaa朔阅读 47评论 0 0