reinit add train.csv

.gitattributes

@@ -0,0 +1,3 @@
+dev.csv filter=lfs diff=lfs merge=lfs -text
+test.csv filter=lfs diff=lfs merge=lfs -text
+train.csv filter=lfs diff=lfs merge=lfs -text

README.md

@@ -0,0 +1,48 @@
+---
+language: 
+- code
+pretty_name: "Chinese ner dataseet"
+tags:
+- ner
+license: "bsd"
+task_categories:
+- token-classification
+---
+
+来源 https://github.com/liucongg/NLPDataSet
+
+
+* 从网上收集数据，将CMeEE数据集、IMCS21_task1数据集、CCKS2017_task2数据集、CCKS2018_task1数据集、CCKS2019_task1数据集、CLUENER2020数据集、MSRA数据集、NLPCC2018_task4数据集、CCFBDCI数据集、MMC数据集、WanChuang数据集、PeopleDairy1998数据集、PeopleDairy2004数据集、GAIIC2022_task2数据集、WeiBo数据集、ECommerce数据集、FinanceSina数据集、BoSon数据集、Resume数据集、Bank数据集、FNED数据集和DLNER数据集等22个数据集进行整理清洗，构建一个较完善的中文NER数据集。
+* 数据集清洗时，仅进行了简单地规则清洗，并将格式进行了统一化，标签为“BIO”。
+* 处理后数据集详细信息，见[数据集描述](https://zhuanlan.zhihu.com/p/529541521)。
+* 数据集由[NJUST-TB](https://github.com/Swag-tb)一起整理。
+* 由于部分数据包含嵌套实体的情况，所以转换成BIO标签时，长实体会覆盖短实体。
+
+| 数据   | 原始数据/项目地址   |  原始数据描述 |
+| ------  | ------ | ------  |
+| CMeEE数据集 | [地址](http://www.cips-chip.org.cn/2021/CBLUE) |  中文医疗信息处理挑战榜CBLUE中医学实体识别数据集 |
+| IMCS21_task1数据集 | [地址](http://www.fudan-disc.com/sharedtask/imcs21/index.html?spm=5176.12282016.0.0.140e6d92ypyW1r) |  CCL2021第一届智能对话诊疗评测比赛命名实体识别数据集 |
+| CCKS2017_task2数据集 | [地址](https://www.biendata.xyz/competition/CCKS2017_2/) |  CCKS2017面向电子病历的命名实体识别数据集  |
+| CCKS2018_task1数据集 | [地址](https://www.biendata.xyz/competition/CCKS2018_1/) |  CCKS2018面向中文电子病历的命名实体识别数据集  |
+| CCKS2019_task1数据集 | [地址](http://openkg.cn/dataset/yidu-s4k) |  CCKS2019面向中文电子病历的命名实体识别数据集  |
+| CLUENER数据集 | [地址](https://github.com/CLUEbenchmark/CLUENER2020) |  CLUENER2020数据集  |
+| MSRA数据集 | [地址](https://www.msra.cn/) |  MSRA微软亚洲研究院开源命名实体识别数据集  |
+| NLPCC2018_task4数据集 | [地址](http://tcci.ccf.org.cn/conference/2018/taskdata.php) |  任务型对话系统数据数据集  |
+| CCFBDCI数据集 | [地址](https://www.datafountain.cn/competitions/510) |  中文命名实体识别算法鲁棒性评测数据集  |
+| MMC数据集 | [地址](https://tianchi.aliyun.com/competition/entrance/231687/information) |  瑞金医院MMC人工智能辅助构建知识图谱大赛数据集  |
+| WanChuang数据集 | [地址](https://tianchi.aliyun.com/competition/entrance/531827/introduction) |  "万创杯”中医药天池大数据竞赛—智慧中医药应用创新挑战赛数据集  |
+| PeopleDairy1998数据集 | [地址]() |  人民日报1998数据集  |
+| PeopleDairy2004数据集 | [地址]() |  人民日报2004数据集  |
+| GAIIC2022_task2数据集 | [地址](https://www.heywhale.com/home/competition/620b34ed28270b0017b823ad/content/2) |  2022全球人工智能技术创新大赛-商品标题实体识别数据集  |
+| WeiBo数据集 | [地址](https://github.com/hltcoe/golden-horse) |  社交媒体中文命名实体识别数据集  |
+| ECommerce数据集 | [地址](https://github.com/allanj/ner_incomplete_annotation) |  面向电商的命名实体识别数据集  |
+| FinanceSina数据集 | [地址](https://github.com/jiesutd/LatticeLSTM) |  新浪财经爬取中文命名实体识别数据集  |
+| BoSon数据集 | [地址](https://github.com/bosondata) |  玻森中文命名实体识别数据集  |
+| Resume数据集 | [地址](https://github.com/jiesutd/LatticeLSTM/tree/master/ResumeNER) |  中国股市上市公司高管的简历  |
+| Bank数据集 | [地址](https://www.heywhale.com/mw/dataset/617969ec768f3b0017862990/file) |  银行借贷数据数据集  |
+| FNED数据集 | [地址](https://www.datafountain.cn/competitions/561/datasets) |  高鲁棒性要求下的领域事件检测数据集  |
+| DLNER数据集 | [地址](https://github.com/lancopku/Chinese-Literature-NER-RE-Dataset) |  语篇级命名实体识别数据集  |
+
+清洗及格式转换后的数据，下载链接如下：[百度云](https://pan.baidu.com/s/1VvbvWPv3eM4MXsv_nlDSSA)
+<br>提取码：4sea
+

cn_ner.py

@@ -0,0 +1,18 @@
+# --------------------------------------------
+
+import random
+import json
+import re
+import sys
+import time
+from collections import defaultdict
+from functools import reduce
+
+import joblib
+import numpy as np
+import pandas as pd
+from typing import List, Union, Callable, Set, Dict, Tuple, Optional, Any
+
+# —--------------------------------------------
+
+from datasets import load_dataset

dataset_infos.json

@@ -0,0 +1,18 @@
+{
+    "default": {
+        "description": "ner movie dataset",
+        "citation": "",
+        "homepage": "",
+        "license": "bsd",
+        "supervised_keys": null,
+        "config_name": "default",
+        "version": {
+            "version_str": "0.1.0",
+            "description": null,
+            "datasets_version_to_prepare": null,
+            "major": 0,
+            "minor": 1,
+            "patch": 0
+        }
+    }
+}

dev.csv

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2ad6e9d176ef8b20442ec2af6d50057b104f6532dd7f9a67a1cb241b7b1b15d2
+size 1261

dev.py

@@ -0,0 +1,74 @@
+# --------------------------------------------
+import keyring as kr
+import os
+import random
+import json
+import re
+import sys
+import time
+from collections import defaultdict
+from functools import reduce
+
+import codefast as cf
+import joblib
+import numpy as np
+import pandas as pd
+from rich import print
+from typing import List, Union, Callable, Set, Dict, Tuple, Optional, Any
+
+from pydantic import BaseModel
+
+import asyncio
+import aiohttp
+import aioredis
+from codefast.patterns.pipeline import Pipeline, BeeMaxin
+# —--------------------------------------------
+from datasets import load_dataset
+
+
+class DataLoader(BeeMaxin):
+    def __init__(self) -> None:
+        super().__init__()
+
+    def process(self):
+        files = []
+        for f in cf.io.walk('jsons/'):
+            files.append(f)
+        return files
+
+
+class ToCsv(BeeMaxin):
+    def to_csv(self, json_file: str):
+        texts, labels = [], []
+        with open(json_file, 'r') as f:
+            for line in f:
+                line = json.loads(line)
+                texts.append(line['text'])
+                _label = ' '.join(line['labels'])
+                labels.append(_label)
+        task_name = cf.io.basename(json_file).replace('.json', '')
+        return pd.DataFrame({'text': texts, 'labels': labels,
+                             'task_name': task_name})
+
+    def process(self, files: List[str]):
+        """ Merge all ner data into a train.csv
+        """
+        df = pd.DataFrame()
+        for f in files:
+            cf.info({
+                'message': f'processing {f}'
+            })
+            newdf = self.to_csv(f)
+            df = pd.concat([df, newdf], axis=0)
+        df.to_csv('train.csv', index=False)
+        df.sample(10).to_csv('dev.csv', index=False)
+
+
+if __name__ == '__main__':
+    pl = Pipeline(
+        [
+            ('dloader', DataLoader()),
+            ('csv converter', ToCsv())
+        ]
+    )
+    pl.gather()

train.csv

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:0d5e44c58a01a1460998da382b190c2433db00502fd941533f83ed2c8a51bc71
+size 227506134