分词练习

1、现有的分词工具
中科院计算所NLPIR
ansj分词器
哈工大的LTP
清华大学THULAC
斯坦福分词器
Hanlp分词器
结巴分词
KCWS分词器(字嵌入+Bi-LSTM+CRF)
ZPar
IKAnalyzer
2、MLPIR与jieba的对比
首先,用MLPIR进行线上的分词分析。

分词分析的内容为:
原版文字.png

而用MLPIR分词得出的结果为:
MLPIR分词png

然后用jieba分词的结果为:
jieba源码.png
jieba分词.png

可以看出,MLPIR在分词的同时,把分词结果的词性也同时分离出来,而jieba的分词结果只是单纯的进行了分词;同时,MLPIR与jieba的分词结果也显示了两个分词工具有着不同的词库,例如“六道”在MLPIR的词库中是不存在的,所以它分出了“六”“道”,而jieba这是直接分出了“六道”这个词。
3、jieba分词练习
3.1关键词的提取

源码为:
关键词提取源码.png

运行结果为:
关键词提取结果.png
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 1.常用的分词工具包 perminusminusStanford 汉语分词工具哈工大语言云ICTCLAS——Ans...
    鸡肉卷福阅读 785评论 0赞 0
  • 在接下来的分词练习中将使用到四川大学公共管理学院的一篇新闻进行练习,文本如下: 为贯彻落实党的十九大精神,不断提升...
    nicokani阅读 1,394评论 0赞 4
  • 关于分词工具包的体验:分词练习2——分词体验 现有的分词工具包 (1)NLPIR NLPIR汉语分词系统,又名IC...
    骆落啊阅读 1,237评论 0赞 6
  • 常用概念: 自然语言处理(NLP) 数据挖掘 推荐算法 用户画像 知识图谱 信息检索 文本分类 常用技术: 词级别...
    御风之星阅读 10,151评论 1赞 25
  • 使用ICTCLAS(NLPIR)在线分词工具和jieba分词组件进行分词练习。 一. ICTCLAS 1.简介 汉...
    Carina_55阅读 942评论 0赞 1

友情链接更多精彩内容