hadoop小学生： HanLP分词工具中的ViterbiSegment分词流程

本篇文章将重点讲解HanLP的ViterbiSegment分词器类，而不涉及感知机和条件随机场分词器，也不涉及基于字的分词器。因为这些分词器都不是我们在实践中常用的，而且ViterbiSegment也是作者直接封装到HanLP类中的分词器，作者也推荐...

2019-08-05 10:31 来自版块 - 网络技术

hadoop小学生： hanlp自然语言处理包的人名识别代码解析

HanLP发射矩阵词典nr.txt中收录单字姓氏393个。袁义达在《中国的三大姓氏是如何统计出来的》文献中指出：当代中国100个常见姓氏中，集中了全国人口的87%，根据这一数据我们只保留nr.txt中的100个常见词语的姓氏角色，其他词语去掉其姓氏角...

2019-08-02 10:00 来自版块 - 网络技术

hadoop小学生： HanLP-命名实体识别总结

人名识别 在HanLP中，基于角色标注识别了中国人名。首先系统利用隐马尔可夫模型标注每个词语的角色，之后利用最大模式匹配法对角色序列进行匹配，匹配上模式的即为人名。理论指导文章为：《基于角色标注的中国人名自动识别研究》，大家可以百度一下看看 地名...

2019-07-31 13:08 来自版块 - 网络技术

hadoop小学生： Hanlp-地名识别调试方法详解

HanLP收词特别是实体比较多，因此特别容易造成误识别。下边举几个地名误识别的例子，需要指出的是，后边的机构名识别也以地名识别为基础，因此，如果地名识别不准确，也会导致机构名识别不准确。 类型1 数字+地名 [1] 暗访哈尔滨网约车：下10...

2019-07-29 10:54 来自版块 - 网络技术

hadoop小学生： 自然语言处理工具HanLP-基于层叠HMM地名识别

本篇接上一篇内容《HanLP-基于HMM-Viterbi的人名识别原理介绍》介绍一下层叠隐马的原理。 首先说一下上一篇介绍的人名识别效果对比： 1. 只有Jieba识别出的人名 准确率极低，基本为地名或复杂地名组成部分或复杂机构名组成部分。举例...

2019-07-26 09:51 来自版块 - 网络技术

hadoop小学生： HanLP-基于HMM-Viterbi的人名识别原理介绍

Hanlp自然语言处理包中的基于HMM-Viterbi处理人名识别的内容大概在年初的有分享过这类的文章，时间稍微久了一点，有点忘记了。看了 baiziyu 分享的这篇比我之前分享的要简单明了的多。下面就把文章分享给大家交流学习之用，部分内容有做修改。...

2019-07-24 10:23 来自版块 - 网络技术

hadoop小学生： HanLP-地名识别调试方法

HanLP收词特别是实体比较多，因此特别容易造成误识别。下边举几个地名误识别的例子，需要指出的是，后边的机构名识别也以地名识别为基础，因此，如果地名识别不准确，也会导致机构名识别不准确。 类型1 数字+地名 [1] 暗访哈尔滨网约车：下10...

2019-07-19 10:42 来自版块 - 网络技术

hadoop小学生： 自然语言处理工具pyhanlp分词与词性标注

Pyhanlp分词与词性标注的相关内容记得此前是有分享过的。可能时间太久记不太清楚了。以下文章是分享自“baiziyu”所写（小部分内容有修改），供大家学习参考之用。 简介 pyhanlp是HanLP的Python接口。因此后续所有关于pyhan...

2019-05-18 10:28 来自版块 - 网络技术

hadoop小学生： java中利用hanlp比较两个文本相似度的步骤

使用 HanLP - 汉语言处理包 来处理，他能处理很多事情，如分词、调用分词器、命名实体识别、人名识别、地名识别、词性识别、篇章理解、关键词提取、简繁拼音转换、拼音转换、根据输入智能推荐、自定义分词器 使用很简单，只要引入hanlp.jar包，...

2019-05-06 10:50 来自版块 - 网络技术

hadoop小学生： HanLP 自然语言处理 for nodejs

支持中文分词（N-最短路分词、CRF分词、索引分词、用户自定义词典、词性标注），命名实体识别（中国人名、音译人名、日本人名、地名、实体机构名识别），关键词提取，自动摘要，短语提取，拼音转换，简繁转换，文本推荐，依存句法分析（MaxEnt依存句法分析、...

2019-04-24 13:10 来自版块 - 网络技术