image.png
如何根据接收端的观测信号来推测信号源发送的信息：只需要从所有的源信息中找到最可能产生出观测信号的那一个信息。
image.png
image.png
image.png
这个公式可以用隐含马尔可夫模型来估计。
符合马尔科夫假设的随机过程，则成为马尔科夫过程，也成为马尔科夫链。
image.png
隐含马尔科夫模型是马尔科夫链的一个扩展：
image.png
image.png
如何找出最大值，进而找出要识别的句子，可以利用维比特算法。
隐含马尔科夫模型三个基本问题：
1、给定一个模型，如何计算某个特定的输出序列的概率。
Forward-Backward 算法
2、给定一个模型和某个特定的输出序列，如何找到最可能产生这个输出的状态序列。
维比特算法
3、给定足够量的观测数据，如何估计隐含马尔科夫模型的参数。
有监督算法，直接统计计算即可。
image.png
每一次迭代都是不断轨迹新的模型参数，使得输出的概率达到最大化，因此这个过程被称为期望最大化，简称 EM 过程。EM 过程保证算法一定能收敛到一个局部最优点。
