隐马尔可夫模型
隐马尔可夫模型
隐马尔可夫模型简称HMM,是比较经典的机器学习模型,在语言识别,自然语言处理,模式识别等领域得到了广泛的应用
HMM模型可以解决哪些问题?
使用HMM模型时,我们的问题一般有两个特征
1)问题是基于序列的,比如时间序列或者状态序列
2)问题中有两类数据,一类是观测序列,一类是不能观察到的隐藏状态序列
前置知识
齐次一阶马尔可夫性
齐次的理解
就是在马尔科夫链 中,
马氏链中的任意 转移到
所服从的概率分布是相同的,这个就叫做齐次
马尔可夫性,可以通俗的理解为:现在决定未来。
在马尔科夫链 中:
1阶Markov的通俗理解: 只与
有关,
只与
有关;
1阶Markov更专业表述:在给定 的情况下,
与
无关。
之所以说是1阶,也就是关联链条的长度为1;如果是2阶的话,那就是在给定 和
的情况下,
与
是无关的。
1阶Markov的目的是简化计算,因为计算链条变短了。
观测独立假设
用通俗的表述可以理解为:在给定 的情况下,
与其他的
(k与t不等)全都无关。即当前时刻观测值只与当前时刻状态值有关
模型的三个要素
初始状态矩阵
初始状态矩阵
状态转移矩阵
状态转移矩阵
发射矩阵
观测概率矩阵
模型参数可以用一个三元组表示