其他分享
首页 > 其他分享> > ik分词器支持标点符号,特殊字符分词(分词结果包含特殊字符)

ik分词器支持标点符号,特殊字符分词(分词结果包含特殊字符)

作者:互联网

需要修改ik分词插件源码

github官网下载对应那本的ik源码包(徐泽自己需要的版本)

下载好后,解压,用idea打开编辑源码

在工具类(CharacterUtil.java)里,找到方法 identifyCharType,加入以下代码:

}else if (ub == Character.UnicodeBlock.GREEK // 希腊符号
				// 希腊扩展符号
				|| ub == Character.UnicodeBlock.GREEK_EXTENDED
				// 拉丁字符
				|| ub == Character.UnicodeBlock.BASIC_LATIN
				// 拉丁补充字符
				|| ub == Character.UnicodeBlock.LATIN_1_SUPPLEMENT
				// 拉丁扩展A字符
				|| ub == Character.UnicodeBlock.LATIN_EXTENDED_A
				// 拉丁扩展B字符
				|| ub == Character.UnicodeBlock.LATIN_EXTENDED_B) {
			return CHAR_CHINESE;
		}

 原理也很简单,就是把特殊符号当作中文处理。

然后maven--package打包上传到服务器,将打包好的Java包替换掉原来的ik分词jar包

 重启es即可!!!!!!

 

 不想改代码的,百度网盘自取!!!!!
链接:https://pan.baidu.com/s/1w4mAvbdcRvUrdgONTf_0CA 
提取码:0108

!!!转发请注明出处和作者名称。 !!!转发请注明出处和作者名称。 !!!转发请注明出处和作者名称。 重要的事,说三遍。

标签:LATIN,Character,ik,UnicodeBlock,分词,特殊字符,ub
来源: https://blog.csdn.net/qq_45151158/article/details/122864502