HanLP Java 配置和初步使用

HanLP介紹

HanLP是一款面向生產環境的自然語言處理工具包。
具有的功能如下:
中文分詞 詞性標註 命名實體識別 依存句法分析 語義依存分析 新詞發現 關鍵詞短語提取 自動摘要 文本分類聚類 拼音簡繁 自然語言處理
【官方地址】http://hanlp.com
【GitHub地址】https://github.com/hankcs/HanLP

HanLP安裝(Java)

本文章着重對HanLP的Java項目的安裝進行講解。

如果你想在Java項目中使用HanLP,那麼現在還不能體驗到HanLP2.0版本(20200208),現在只能安裝在1.X分支(https://github.com/hankcs/HanLP/tree/1.x)。

安裝方法有兩種:

方式一:Maven倉庫

<dependency>
    <groupId>com.hankcs</groupId>
    <artifactId>hanlp</artifactId>
    <version>portable-1.7.6</version>
</dependency>

零配置,即可使用基本功能(除由字構詞、依存句法分析外的全部功能)。

對於分詞來說,StandardTokenizer標準分詞器可用,但是NLPTokenizer分詞器會出錯,需要data包。

本方法同樣支持hanlp.properties(方式二中),也就是可配置data,無需手動引入jar包

方式二:自行下載jar、data、hanlp.properties。

  1. 下載
    data.zip
    hanlp-release.zip

  2. data.zip包含dictionary和mode兩個文件夾。
    lhanlp-release.zip包含hanlp-1.7.6.jar、hanlp-1.7.6-sources.jar以及最重要的hanlp.properties。
    解壓data.zip得到data文件夾。

  3. 將data文件夾、hanlp.properties移動到java項目中,這裏我移動到了resources中,具體路徑:

src/main/resources
  1. 修改hanlp.properties中的root路徑(data的父目錄):
root=./src/main/resources
  1. 引入jar包(如果同時使用了方式一就不需要這一步),這裏自行百度,不同IDE方式不同。

HanLP初步使用

NLP分詞初體驗

package com.hankcs.demo;

import com.hankcs.hanlp.tokenizer.NLPTokenizer;
import com.hankcs.hanlp.utility.TestUtility;

public class DemoNLPSegment extends TestUtility
{
    public static void main(String[] args)
    {
        NLPTokenizer.ANALYZER.enableCustomDictionary(false); // 不用詞典照樣分詞。
        System.out.println(NLPTokenizer.segment("在我國,春季田間管理的重點是夏季糧油作物,主要是冬小麥和油菜,產量超過全年糧食產量的五分之一。"));
        NLPTokenizer.ANALYZER.enableCustomDictionary(true); // 使用用詞典分詞。
        System.out.println(NLPTokenizer.segment("在我國,春季田間管理的重點是夏季糧油作物,主要是冬小麥和油菜,產量超過全年糧食產量的五分之一。"));
        System.out.println(NLPTokenizer.analyze("我救的不是他,是多年前一個寒夜裏,在篝火與烈酒中,想仗劍江湖的少年。").translateLabels());
//        result.setData(JSON.toJSON(segmentList));
    }
}

輸出結果:

[在/p, 我國/n, ,/w, 春季/t, 田間管理/l, 的/u, 重點/n, 是/v, 夏季/t, 糧油/j, 作物/n, ,/w, 主要/d, 是/v, 冬小麥/n, 和/c, 油菜/n, ,/w, 產量/n, 超過/v, 全年/n, 糧食/n, 產量/n, 的/u, 五分之一/m, 。/w]
[在/p, 我國/n, ,/w, 春季/t, 田間管理/l, 的/u, 重點/n, 是/v, 夏季/t, 糧油/j, 作物/n, ,/w, 主要/d, 是/v, 冬小麥/n, 和/c, 油菜/n, ,/w, 產量/n, 超過/v, 全年/n, 糧食產量/nz, 的/u, 五分之一/m, 。/w]
我/代詞 救/動詞 的/助詞 不是/成語 他/代詞 ,/標點符號 是/動詞 多年前/數詞 一個/數詞 寒夜/名詞 裏/方位詞 ,/標點符號 在/介詞 篝火/名詞 與/介詞 烈酒/名詞 中/方位詞 ,/標點符號 想/動詞 仗劍/動詞 江湖/名詞 的/助詞 少年/名詞 。/標點符號

從結果可以看出,使用詞典的NLP分詞(如果沒配置data會出錯)將“糧食產量”識別爲一個詞,不使用詞典則分爲“糧食”“產量”兩個詞。

更多實例請移步【官方GitHub-Demo】

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章