局部归一化

memm模型存在局部归一化的问题,导致预测序列倾向于选择那些转移状态(transfer)比较少的节点,但是如果不归一化会存在什么问题呢?

当我们使用最大熵、贝叶斯或者其它分类模型,预测当前字“好”可能归属于{S,B,E,M}中哪个状态时,得到的是一个总和为1的概率矩阵,比如{0.1, 0.3, 0.5, 0.1},但是,前一个状态S只有可能转移到当前状态为B或者S,不可能转移到M和E,所以其转移矩阵P{S,B,E,M}可能等于{0.3, 0, 0, 0.7},这样“好”字对应于B,S的发射概率只有0.3和0.5,其余的0.2是不起作用的,但是直接忽略掉这0.2会造成了模型的整体误差,所以需要把0.3和0.5进行归一化变成3/8和5/8,这也就是局部归一化。

但是,经过局部归一化之后,因为S的转出状态比较少,导致转移概率*发射概率 相对于转出状态多的B而言是比较大的,这会使模型倾向于更多的选择状态S。

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 1. 关于诊断X线机准直器的作用,错误的是()。 (6.0 分) A. 显示照射野 B. 显示中心线 C. 屏蔽多...
    我们村我最帅阅读 11,448评论 0 5
  • 人有时是一个矛盾体,一面是想过轻松安逸的日子,一面又不安于平庸想做个强者。我的看法是两者并不是完全相克,除非两个极...
    恒歌L阅读 177评论 0 0
  • 上次跟去澳洲的男同学聊天,我曾经喜欢过他,后来因为两地相隔太远,而且他不断地换女朋友,我就放弃了。 这次他打S...
    八幡_f232阅读 1,150评论 1 1
  • 开学已经一周了。 忙碌的节奏因孩子们的到来而变得不那么令人疲惫。开会、领课本、排座位……忙的晓笛不亦乐乎。经过一个...
    西域明月阅读 667评论 0 1

友情链接更多精彩内容