Uploaded model
Browse files
README.md
CHANGED
@@ -1,10 +1,15 @@
|
|
1 |
-
|
2 |
-
|
3 |
-
|
|
|
|
|
|
|
|
|
|
|
4 |
|
5 |
# LTP 4
|
6 |
|
7 |
-
|
8 |
|
9 |
## 引用
|
10 |
|
@@ -20,19 +25,38 @@ license: other
|
|
20 |
```
|
21 |
|
22 |
**参考书:**
|
23 |
-
由哈工大社会计算与信息检索研究中心(HIT-SCIR)的多位学者共同编著的《[自然语言处理:基于预训练模型的方法](https://item.jd.com/13344628.html)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
24 |
|
25 |
## 快速使用
|
26 |
|
27 |
-
###
|
28 |
|
29 |
```bash
|
30 |
-
pip install -U ltp ltp-core ltp-extension -i https://pypi.org/simple
|
31 |
```
|
32 |
|
33 |
-
**注:** 如果遇到任何错误,请尝试使用上述命令重新安装 ltp,如果依然报错,请在
|
34 |
-
|
35 |
-
### 使用 LTP
|
36 |
|
37 |
```python
|
38 |
import torch
|
@@ -59,6 +83,35 @@ cws, pos, ner = ltp.pipeline(["他叫汤姆去拿外衣。"], tasks=["cws", "pos
|
|
59 |
print(cws, pos, ner)
|
60 |
```
|
61 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
62 |
## 模型性能以及下载地址
|
63 |
|
64 |
| 深度学习模型 | 分词 | 词性 | 命名实体 | 语义角色 | 依存句法 | 语义依存 | 速度(句/S) |
|
@@ -71,10 +124,29 @@ print(cws, pos, ner)
|
|
71 |
|
72 |
| 感知机算法 | 分词 | 词性 | 命名实体 | 速度(句/s) | 备注 |
|
73 |
| :-----------------------------------------: | :---: | :---: | :---: | :------: | :------------------------: |
|
74 |
-
| [Legacy](https://huggingface.co/LTP/legacy) | 97.93 | 98.41 | 94.28 | 21581.48 | [性能详情](
|
75 |
|
76 |
**注:感知机算法速度为开启16线程速度**
|
77 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
78 |
## 作者信息
|
79 |
|
80 |
- 冯云龙 \<\<[ylfeng@ir.hit.edu.cn](mailto:ylfeng@ir.hit.edu.cn)>>
|
|
|
1 |
+
![CODE SIZE](https://img.shields.io/github/languages/code-size/HIT-SCIR/ltp)
|
2 |
+
![CONTRIBUTORS](https://img.shields.io/github/contributors/HIT-SCIR/ltp)
|
3 |
+
![LAST COMMIT](https://img.shields.io/github/last-commit/HIT-SCIR/ltp)
|
4 |
+
|
5 |
+
| Language | version |
|
6 |
+
| ------------------------------------ | ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- |
|
7 |
+
| [Python](python/interface/README.md) | [![LTP](https://img.shields.io/pypi/v/ltp?label=LTP)](https://pypi.org/project/ltp) [![LTP-Core](https://img.shields.io/pypi/v/ltp-core?label=LTP-Core)](https://pypi.org/project/ltp-core) [![LTP-Extension](https://img.shields.io/pypi/v/ltp-extension?label=LTP-Extension)](https://pypi.org/project/ltp-extension) |
|
8 |
+
| [Rust](rust/ltp/README.md) | [![LTP](https://img.shields.io/crates/v/ltp?label=LTP)](https://crates.io/crates/ltp) |
|
9 |
|
10 |
# LTP 4
|
11 |
|
12 |
+
LTP(Language Technology Platform) 提供了一系列中文自然语言处理工具,用户可以使用这些工具对于中文文本进行分词、词性标注、句法分析等等工作。
|
13 |
|
14 |
## 引用
|
15 |
|
|
|
25 |
```
|
26 |
|
27 |
**参考书:**
|
28 |
+
由哈工大社会计算与信息检索研究中心(HIT-SCIR)的多位学者共同编著的《[自然语言处理:基于预训练模型的方法](https://item.jd.com/13344628.html)
|
29 |
+
》(作者:车万翔、郭江、崔一鸣;主审:刘挺)一书现已正式出版,该书重点介绍了新的基于预训练模型的自然语言处理技术,包括基础知识、预训练词向量和预训练模型三大部分,可供广大LTP用户学习参考。
|
30 |
+
|
31 |
+
### 更新说明
|
32 |
+
|
33 |
+
- 4.2.0
|
34 |
+
- \[结构性变化\] 将 LTP 拆分成 2 个部分,维护和训练更方便,结构更清晰
|
35 |
+
- \[Legacy 模型\] 针对广大用户对于**推理速度**的需求,使用 Rust 重写了基于感知机的算法,准确率与 LTP3 版本相当,速度则是 LTP v3 的 **3.55** 倍,开启多线程更可获得 **17.17** 倍的速度提升,但目前仅支持分词、词性、命名实体三大任务
|
36 |
+
- \[深度学习模型\] 即基于 PyTorch 实现的深度学习模型,支持全部的6大任务(分词/词性/命名实体/语义角色/依存句法/语义依存)
|
37 |
+
- \[其他改进\] 改进了模型训练方法
|
38 |
+
- \[共同\] 提供了训练脚本和训练样例,使得用户能够更方便地使用私有的数据,自行训练个性化的模型
|
39 |
+
- \[深度学习模型\] 采用 hydra 对训练过程进行配置,方便广大用户修改模型训练参数以及对 LTP 进行扩展(比如使用其他包中的 Module)
|
40 |
+
- \[其他变化\] 分词、依存句法分析 (Eisner) 和 语义依存分析 (Eisner) 任务的解码算法使用 Rust 实现,速度更快
|
41 |
+
- \[新特性\] 模型上传至 [Huggingface Hub](https://huggingface.co/LTP),支持自动下载,下载速度更快,并且支持用户自行上传自己训练的模型供LTP进行推理使用
|
42 |
+
- \[破坏性变更\] 改用 Pipeline API 进行推理,方便后续进行更深入的性能优化(如SDP和SDPG很大一部分是重叠的,重用可以加快推理速度),使用说明参见[Github快速使用部分](https://github.com/hit-scir/ltp)
|
43 |
+
- 4.1.0
|
44 |
+
- 提供了自定义分词等功能
|
45 |
+
- 修复了一些bug
|
46 |
+
- 4.0.0
|
47 |
+
- 基于Pytorch 开发,原生 Python 接口
|
48 |
+
- 可根据需要自由选择不同速度和指标的模型
|
49 |
+
- 分词、词性、命名实体、依存句法、语义角色、语义依存6大任务
|
50 |
|
51 |
## 快速使用
|
52 |
|
53 |
+
### [Python](python/interface/README.md)
|
54 |
|
55 |
```bash
|
56 |
+
pip install -U ltp ltp-core ltp-extension -i https://pypi.org/simple # 安装 ltp
|
57 |
```
|
58 |
|
59 |
+
**注:** 如果遇到任何错误,请尝试使用上述命令重新安装 ltp,如果依然报错,请在 Github issues 中反馈。
|
|
|
|
|
60 |
|
61 |
```python
|
62 |
import torch
|
|
|
83 |
print(cws, pos, ner)
|
84 |
```
|
85 |
|
86 |
+
**[详细说明](python/interface/docs/quickstart.rst)**
|
87 |
+
|
88 |
+
### [Rust](rust/ltp/README.md)
|
89 |
+
|
90 |
+
```rust
|
91 |
+
use std::fs::File;
|
92 |
+
use itertools::multizip;
|
93 |
+
use ltp::{CWSModel, POSModel, NERModel, ModelSerde, Format, Codec};
|
94 |
+
|
95 |
+
fn main() -> Result<(), Box<dyn std::error::Error>> {
|
96 |
+
let file = File::open("data/legacy-models/cws_model.bin")?;
|
97 |
+
let cws: CWSModel = ModelSerde::load(file, Format::AVRO(Codec::Deflate))?;
|
98 |
+
let file = File::open("data/legacy-models/pos_model.bin")?;
|
99 |
+
let pos: POSModel = ModelSerde::load(file, Format::AVRO(Codec::Deflate))?;
|
100 |
+
let file = File::open("data/legacy-models/ner_model.bin")?;
|
101 |
+
let ner: NERModel = ModelSerde::load(file, Format::AVRO(Codec::Deflate))?;
|
102 |
+
|
103 |
+
let words = cws.predict("他叫汤姆去拿外衣。")?;
|
104 |
+
let pos = pos.predict(&words)?;
|
105 |
+
let ner = ner.predict((&words, &pos))?;
|
106 |
+
|
107 |
+
for (w, p, n) in multizip((words, pos, ner)) {
|
108 |
+
println!("{}/{}/{}", w, p, n);
|
109 |
+
}
|
110 |
+
|
111 |
+
Ok(())
|
112 |
+
}
|
113 |
+
```
|
114 |
+
|
115 |
## 模型性能以及下载地址
|
116 |
|
117 |
| 深度学习模型 | 分词 | 词性 | 命名实体 | 语义角色 | 依存句法 | 语义依存 | 速度(句/S) |
|
|
|
124 |
|
125 |
| 感知机算法 | 分词 | 词性 | 命名实体 | 速度(句/s) | 备注 |
|
126 |
| :-----------------------------------------: | :---: | :---: | :---: | :------: | :------------------------: |
|
127 |
+
| [Legacy](https://huggingface.co/LTP/legacy) | 97.93 | 98.41 | 94.28 | 21581.48 | [性能详情](rust/ltp/README.md) |
|
128 |
|
129 |
**注:感知机算法速度为开启16线程速度**
|
130 |
|
131 |
+
## 构建 Wheel 包
|
132 |
+
|
133 |
+
```shell script
|
134 |
+
make bdist
|
135 |
+
```
|
136 |
+
|
137 |
+
## 其他语言绑定
|
138 |
+
|
139 |
+
**感知机算法**
|
140 |
+
|
141 |
+
- [Rust](rust/ltp)
|
142 |
+
- [C/C++](rust/ltp-cffi)
|
143 |
+
|
144 |
+
**深度学习算法**
|
145 |
+
|
146 |
+
- [Rust](https://github.com/HIT-SCIR/libltp/tree/master/ltp-rs)
|
147 |
+
- [C++](https://github.com/HIT-SCIR/libltp/tree/master/ltp-cpp)
|
148 |
+
- [Java](https://github.com/HIT-SCIR/libltp/tree/master/ltp-java)
|
149 |
+
|
150 |
## 作者信息
|
151 |
|
152 |
- 冯云龙 \<\<[ylfeng@ir.hit.edu.cn](mailto:ylfeng@ir.hit.edu.cn)>>
|