背景
最近在用CRF做人名和时间的实体识别实验,在此记录一下实验的一点心得,供以后借鉴
心得
1.首先对自己的测试集,调研已有实体识别模型效果,如ltp、jieba、百度实体识别、stanfordnlp
2.使用crf时,可使用已封装好的sklearn-crfsuite进行实验,选取特征:前一个字、后一个字、前两个字、后两个字
3.当效果不够好时,应从 数据 和 模型 两个层面分析,若使用与训练数据同源的测试集,效果远好于非同源测试集,则说明训练集和测试集数据分布不一致为效果不好的主要原因;若同源测试集效果也不好,则说明很有可能是模型的问题
4.做任何事情,记得调研业界已与方法作为基准
代码示例
《待添加》