这里描述三种贝叶斯contioning engines:
- 网格逼近
- 二次逼近
- 马尔科夫链蒙特卡罗(MCMC)
网格逼近
网格逼近是最简单的一种,只适用于教学但不能实际采用。
我们来解决这样一个问题,假设你有一个小球代表我们的星球——地球,它小到可以握在你的手中。你现在非常好奇地球表面有多少是被水覆盖的。你采用以下策略:将小球高高扔向空中,然后抓住它,记录食指触碰的是水面还是陆地(Globe tossing problem)。你可能会得到类似以下的数据:
W L W W W L W L W
W
代表水,L
代表陆地。
我们现在利用贝叶斯网格逼近技术来探索这一问题。
记住,贝叶斯的核心是执果溯因,我们已知上述9次记录,来探寻地球本身水面占比的概率分布情况。
步骤:
- 定义网格。你决定用多少个点估计后验概率,然后创建网格上所有参数值的一个列表。
- 计算网格上每个参数值的先验概率。
- 计算每个参数值的似然度。
- 计算每个参数值的非标准后验概率,通过用似然度乘以先验概率。
- 最后,通过用每个值除以所有值的和标准化后验概率。