基于结巴分词的词频统计·简单专业

导语


大众对文本分词的需求日益增多,让NLP技术的日益成熟,基于开源分词方案实现的分词工具也越来越多,最普遍看到的就是基于结巴分词库做出的分词器了
我抓取了来自几个权威技术站关于结巴分词方案的讲解,本次推荐一款基于结巴分词开发的分词器,让不懂技术的用户也可以轻松实现分词词频统计,保证专业精准!

权威网站上关于结巴分词讲解

1.github上的一篇关于结巴分词的详细讲解
https://github.com/fxsjy/jieba


结巴分词 中文分词 词频统计



2.腾讯云关于初级者的结巴分词讲解
https://cloud.tencent.com/developer/article/1411082


结巴分词 中文分词 词频统计




需求描述

有需求的用户都知道分词的重要性,可以说是文本挖掘的基础,主要用于自然语言处理、分词搜索、大数据智能推荐等,那么分词精准度和数据过滤词性标注都是分词非常重要的核心功能
绕了这么大的一个弯子,那么小白群体到底应该如何实现分词词频统计分析呢?




分词工具

我们大可以放心的借助分词工具来实现,微词云工具是基于结巴分词库进行实现的分词词频统计,拥有专业的分词技术,获得很多数据人和学术研究者的青睐!


分词工具·微词云词频统计工具

地址:https://www.weiciyun.com/

微词云分词功能包括:文本分词词频统计、关键词过滤、自定义词典、生成词云图可视化效果!

词云,词云图,词云图在线生成器



分词与词频统计操作方法

基本上简单三个步骤就可以实现文本的词频统计,首先我们打开微词云后,进入编辑器页面,左侧那一列是功能模块


导入文本内容

点击左侧的内容功能列表,我们会看到【导入单词】入口,选择「分词筛词后导入」,把要分词的文本复制进去就行,微词云目前不支持txt/excel导入格式,所以需要手动复制下文本粘贴到文本输入框中,一次最大导入文本是20M。
如果不够用,可以选择多次导入方法。


结巴分词 中文分词 词频统计 微词云



自定义词典

因每个行业的适合的词典不一样,很可能你需要的关键词未被分出来,例如你是美妆行业,总是把粉底很好用,分成“粉底”和“好用”,这是一个很头痛的问题
特别是现在新兴行业的词典库还没有建立起来时,更需要一个“自定义词典”解决分出的词不准的问题。
所以微词云增加了自定义词典的功能,希望能解决一部分这个问题;不希望被分来的关键词输入到自定义词典中,格式需要额外的注意下;并且建议你一定保留好自己的自定义文本,因为微词云没有存储用户自定义的功能。未来会增加词典修改与保存的功能。


结巴分词 中文分词 词频统计 微词云


过滤关键词

自定义完自己的词典后,我们会看到底部有几个过滤关键词的选项,如“去掉单子”,“去掉未知词”和“只返回高频词”
我解释下这是什么意思(1)“去掉单子”,就是分词中一个字的关键词会被过滤掉;(2)“去掉未知词”,就是不在词典中的词会被过滤掉;(3)“只返回高频词”,低频词被过滤掉,1M文本中之返回前500个关键高频词,那么点击取消“只返回高频词”,会得到最大的关键词取量。

大家根据对文本过滤的需求来决定如何勾选筛词选项;紧接着点击右下角的【开始分词】,我们进入词性筛词页面,想要留下来的词选择对勾选上就行了。


结巴分词 中文分词 词频统计 微词云


下载词频统计结果

过滤好关键词后,可以点击顶部的下载分词结果就行了。
如果想做一成词频图,可以点击右下角的【确定使用所选的单词】就可以进入词云图编辑页面了


词云图 词频图 词频统计 微词云





常遇到的分词问题


1.词频统计不准:文本中某个关键词出现的次数与微词云分词中的提取关键词词频数对不上,例如”发展“这词,在原文本中出现260次,但是微词云中“发展”只有256次,一般是因为发展与其他的词组新的关键词了,例如发展性,发展行业等等,所以在核实数据准确性时,还要查看这个词的相关词有哪些


2.下载分词结果,过滤掉的词仍显示:微词云分词结果下载后,把全部的数据都下载了,并提供了词频占比和词性关键词表,并对过滤掉的词标记勾选位置为“否”,保留的词勾选标记为“是”,所以大家可以一键筛选“是”的词就是您保留下来的词了。
我们尽可能的保留用户的所有分词数据以备不时之需。


利用结巴分词方案的成型工具做分词词频统计的操作就到这里。不管懂技术也好,不懂技术也好,可以利用一款专业的分词工具,节省更多的工作时间,高效的做文本分析,早下班,多休息!



相关文章推荐

1.8款好用的词频统计分析在线工具
2.在线词频统计工具

最后更新于: 2021-05-30 09:54:16
感谢您的阅读,本文由 微词云 版权所有。如若转载,请注明出处:微词云(https://www.weiciyun.com/blog/fenci-1/
绝对不忍心公开的6款设计师导航站!工具太优质了
12款设计大佬都在用的在线背景生成器·支持白嫖

目录

  1. 1. 导语
    1. 1.1. 权威网站上关于结巴分词讲解
    2. 1.2. 需求描述
  2. 2. 分词工具
    1. 2.1. 分词工具·微词云词频统计工具
    2. 2.2. 分词与词频统计操作方法
      1. 2.2.1. 导入文本内容
      2. 2.2.2. 自定义词典
      3. 2.2.3. 过滤关键词
      4. 2.2.4. 下载词频统计结果
  3. 3. 常遇到的分词问题
    1. 3.1. 相关文章推荐