IK分词器的安装与使用

1. IK分词器简介

IK Analyzer是一个开源的，基于java语言开发的轻量级的中文分词工具包。从2006年12月推出1.0版开始， IK Analyzer已经推出了4个大版本。最初，它是以开源项目Luence为应用主体的，结合词典分词和文法分析算法的中文分词组件。从3.0版本开始，IK发展为面向Java的公用分词组件，独立于Lucene项目，同时提供了对Lucene的默认优化实现。在2012版本中，IK实现了简单的分词歧义排除算法，标志着IK分词器从单纯的词典分词向模拟语义分词衍化。
后来，被一个叫medcl（曾勇 elastic开发工程师与布道师，elasticsearch开源社区负责人，2015年加入elastic）的人集成到了elasticsearch中， 并支持自定义字典....

摘自[Elasticsearch - 各平台配置IK分词器]

2. 下载

• elasticsearch-analysis-ik 7.8.0

3. 安装

在plugins目录中新建一个ik也可以命名为其他文件夹名称，方便区别这个文件夹是包含ik就行)，然后将下载的zip包解压到ik中，重启es就可以。

4. 配置词库

ik_home/config/IKAnalyzer.cfg.xml

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
	<comment>IK Analyzer 扩展配置</comment>
	<!--用户可以在这里配置自己的扩展字典 -->
	<entry key="ext_dict">custom.dic</entry>
	 <!--用户可以在这里配置自己的扩展停止词字典-->
	<entry key="ext_stopwords"></entry>
	<!--用户可以在这里配置远程扩展字典 -->
	<!-- <entry key="remote_ext_dict">words_location</entry> -->
	<!--用户可以在这里配置远程扩展停止词字典-->
	<!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>

从IKAnalyzer.cfg.xml 可以看到用户可以自定义配置词库的自定义扩展信息。

• IKAnalyzer.cfg.xml，用来配置自定义的词库
• main.dic，ik原生内置的中文词库，大约有27万多条，只要是这些单词，都会被分在一起。
• surname.dic，中国的姓氏。
• suffix.dic，特殊（后缀）名词，例如乡、江、所、省等等。
• preposition.dic，中文介词，例如不、也、了、仍等等。
• stopword.dic，英文停用词库，例如a、an、and、the等。
• quantifier.dic，单位名词，如厘米、件、倍、像素等。

例如配置扩展词典，可以添加custom.dic(与IKAnalyzer.cfg.xml在同一目录级别)

随后配置custom.dic

[root@shine107 config]# cat custom.dic
慕课网
慕课
课网
慕
课
网
骚年

5. ES中测试ik_analyzer

向ES服务器发送发送post请求：http://192.168.21.107:9200/user/_analyze

{
    "text":"慕课网是一个好网站，骚年要加油",
    "analyzer":"ik_smart"
}

得到的服务器响应为

ik_max_word：会将文本做最细粒度的拆分，比如会将“中华人民共和国国歌”拆分为“中华人民共和国,中华人民,中华,华人,人民共和国,人民,人,民,共和国,共和,和,国国,国歌”，会穷尽各种可能的组合；

ik_smart：会做最粗粒度的拆分，比如会将“中华人民共和国国歌”拆分为“中华人民共和国,国歌”。如下：

参考博客

1. [Elasticsearch - 各平台配置IK分词器]
2. [ElasticSearch（六）：IK分词器的安装与使用IK分词器创建索引]

标签：词库,ik,dic,IK,分词器,安装,分词
来源： https://www.cnblogs.com/shine-rainbow/p/15512192.html