HMM
image.png
参数 = （A，B，pi）
image.png
解决隐马第一个问题：P(O)
image.png
前向-后向算法的核心是构建【递推】
image.png
image.png
image.png
第二个问题：学习
image.png
image.png
无监督：EM
第三个问题：预测
做法：
viterbi算法其实就是多步骤每步多选择模型的最优选择问题，其在每一步的所有选择都保存了前续所有步骤到当前步骤当前选择的最小总代价（或者最大价值）以及当前代价的情况下前继步骤的选择。依次计算完所有步骤后，通过回溯的方法找到最优选择路径。
【原理】
image.png
CRF
image.png
借助H-C定理，引入概率图模型中最大团的概念，使用势函数连乘（非归一化概率连乘）定义出CRF的条件概率基本公式。
在chain-CRF中，所有的最大团都是相邻两个节点。
image.png
image.png
指数带来乘法变加法。
传统的CRF是需要人工定义特征函数的。参数学习得到。
image.png
参数 * 权值 -> 权值向量 * 特征函数得分
再升级到矩阵形式
image.png
矩阵的含义：特定位置的非归一化转移概率
image.png
