Package: ltp
LanguageversionPythonRustLTP 4LTP（Language Technology Platform） 提供了一系列中文自然语言处理工具，用户可以使用这些工具对于中文文本进行分词、词性标注、句法分析等等工作。引用如果您在工作中使用了 LTP，您可以引用这篇论文@inproceedings{che-etal-2021-n,title="N-{LTP}: An Open-source Neural Language Technology Platform for {C}hinese",author="Che, Wanxiang  andFeng, Yunlong  andQin, Libo  andLiu, Ting",booktitle="Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing: System Demonstrations",month=nov,year="2021",address="Online and Punta Cana, Dominican Republic",publisher="Association for Computational Linguistics",url="https://aclanthology.org/2021.emnlp-demo.6",doi="10.18653/v1/2021.emnlp-demo.6",pages="42--49",abstract="We introduce N-LTP, an open-source neural language technology platform supporting six fundamental Chinese NLP tasks: lexical analysis (Chinese word segmentation, part-of-speech tagging, and named entity recognition), syntactic parsing (dependency parsing), and semantic parsing (semantic dependency parsing and semantic role labeling). Unlike the existing state-of-the-art toolkits, such as Stanza, that adopt an independent model for each task, N-LTP adopts the multi-task framework by using a shared pre-trained model, which has the advantage of capturing the shared knowledge across relevant Chinese tasks. In addition, a knowledge distillation method (Clark et al., 2019) where the single-task model teaches the multi-task model is further introduced to encourage the multi-task model to surpass its single-task teacher. Finally, we provide a collection of easy-to-use APIs and a visualization tool to make users to use and view the processing results more easily and directly. To the best of our knowledge, this is the first toolkit to support six Chinese NLP fundamental tasks. Source code, documentation, and pre-trained models are available at https://github.com/HIT-SCIR/ltp.",}参考书：由哈工大社会计算与信息检索研究中心（HIT-SCIR）的多位学者共同编著的《自然语言处理：基于预训练模型的方法》（作者：车万翔、郭江、崔一鸣；主审：刘挺）一书现已正式出版，该书重点介绍了新的基于预训练模型的自然语言处理技术，包括基础知识、预训练词向量和预训练模型三大部分，可供广大LTP用户学习参考。更新说明4.2.0[结构性变化] 将 LTP 拆分成 2 个部分，维护和训练更方便，结构更清晰[Legacy 模型] 针对广大用户对于推理速度的需求，使用 Rust 重写了基于感知机的算法，准确率与 LTP3 版本相当，速度则是 LTP v3 的3.55倍，开启多线程更可获得17.17倍的速度提升，但目前仅支持分词、词性、命名实体三大任务[深度学习模型] 即基于 PyTorch 实现的深度学习模型，支持全部的6大任务（分词/词性/命名实体/语义角色/依存句法/语义依存）[其他改进] 改进了模型训练方法[共同] 提供了训练脚本和训练样例，使得用户能够更方便地使用私有的数据，自行训练个性化的模型[深度学习模型] 采用 hydra 对训练过程进行配置，方便广大用户修改模型训练参数以及对 LTP 进行扩展（比如使用其他包中的 Module）[其他变化] 分词、依存句法分析 (Eisner) 和 语义依存分析 (Eisner) 任务的解码算法使用 Rust 实现，速度更快[新特性] 模型上传至Huggingface Hub，支持自动下载，下载速度更快，并且支持用户自行上传自己训练的模型供LTP进行推理使用[破坏性变更] 改用 Pipeline API 进行推理，方便后续进行更深入的性能优化（如SDP和SDPG很大一部分是重叠的，重用可以加快推理速度），使用说明参见Github快速使用部分4.1.0提供了自定义分词等功能修复了一些bug4.0.0基于Pytorch 开发，原生 Python 接口可根据需要自由选择不同速度和指标的模型分词、词性、命名实体、依存句法、语义角色、语义依存6大任务快速使用Pythonpipinstall-Ultpltp-coreltp-extension-ihttps://pypi.org/simple# 安装 ltp注：如果遇到任何错误，请尝试使用上述命令重新安装 ltp，如果依然报错，请在 Github issues 中反馈。importtorchfromltpimportLTPltp=LTP("LTP/small")# 默认加载 Small 模型# 将模型移动到 GPU 上iftorch.cuda.is_available():# ltp.cuda()ltp.to("cuda")output=ltp.pipeline(["他叫汤姆去拿外衣。"],tasks=["cws","pos","ner","srl","dep","sdp"])# 使用字典格式作为返回结果print(output.cws)# print(output[0]) / print(output['cws']) # 也可以使用下标访问print(output.pos)print(output.sdp)# 使用感知机算法实现的分词、词性和命名实体识别，速度比较快，但是精度略低ltp=LTP("LTP/legacy")# cws, pos, ner = ltp.pipeline(["他叫汤姆去拿外衣。"], tasks=["cws", "ner"]).to_tuple() # error: NER 需要 词性标注任务的结果cws,pos,ner=ltp.pipeline(["他叫汤姆去拿外衣。"],tasks=["cws","pos","ner"]).to_tuple()# to tuple 可以自动转换为元组格式# 使用元组格式作为返回结果print(cws,pos,ner)详细说明Rustusestd::fs::File;useapache_avro::Codec;useitertools::multizip;useltp::{CWSModel,POSModel,NERModel,ModelSerde,Format};fnmain()->Result<(),Box<dynstd::error::Error>>{letfile=File::open("data/legacy-models/cws_model.bin")?;letcws:CWSModel=ModelSerde::load(file,Format::AVRO(Codec::Deflate))?;letfile=File::open("data/legacy-models/pos_model.bin")?;letpos:POSModel=ModelSerde::load(file,Format::AVRO(Codec::Deflate))?;letfile=File::open("data/legacy-models/ner_model.bin")?;letner:NERModel=ModelSerde::load(file,Format::AVRO(Codec::Deflate))?;letwords=cws.predict("他叫汤姆去拿外衣。");letpos=pos.predict(&words);letner=ner.predict((&words,&pos));for(w,p,n)inmultizip((words,pos,ner)){println!("{}/{}/{}",w,p,n);}Ok(())}模型性能以及下载地址深度学习模型分词词性命名实体语义角色依存句法语义依存速度(句/S)Base98.798.595.480.689.575.239.12Base199.2298.7396.3979.2889.5776.57--.--Base299.1898.6995.9779.4990.1976.62--.--Small98.498.294.378.488.374.743.13Tiny96.897.191.670.983.870.153.22感知机算法分词词性命名实体速度(句/s)备注Legacy97.9398.4194.2821581.48性能详情注：感知机算法速度为开启16线程速度构建 Wheel 包makebdist模型算法分词: Electra1+ Linear词性: Electra + Linear命名实体: Electra + Relative Transformer2+ Linear依存句法: Electra + BiAffine + Eisner3语义依存: Electra + BiAffine语义角色: Electra + BiAffine + CRF其他语言绑定感知机算法RustC/C++深度学习算法RustC++Java作者信息冯云龙 <<ylfeng@ir.hit.edu.cn>>开源协议语言技术平台面向国内外大学、中科院各研究所以及个人研究者免费开放源代码，但如上述机构和个人将该平台用于商业目的（如企业合作项目等）则需要付费。除上述机构以外的企事业单位，如申请使用该平台，需付费。凡涉及付费问题，请发邮件到car@ir.hit.edu.cn洽商。如果您在 LTP 基础上发表论文或取得科研成果，请您在发表论文和申报成果时声明“使用了哈工大社会计算与信息检索研究中心研制的语言技术平台（LTP）”.
同时，发信给car@ir.hit.edu.cn，说明发表论文或申报成果的题目、出处等。脚注1::Chinese-ELECTRA2::TENER: Adapting Transformer Encoder for Named Entity Recognition3::A PyTorch implementation of "Deep Biaffine Attention for Neural Dependency Parsing"