metadata
license: apache-2.0
language:
- zh
tags:
- chitchat
size_categories:
- 100M<n<1B
中文闲聊数据集
role 的取值有: "unknown", "human", "assistant", 三种.
数据集从网上收集整理如下:
| 数据 | 原始数据/项目地址 | 样本个数 | 语料描述 | 替代数据下载地址 |
|---|---|---|---|---|
| ChatterBot | ChatterBot; chatterbot-corpus | 560 | 按类型分类，质量较高 | 阿里云盘; 提取码: 81ao |
| douban | Douban Conversation Corpus | 352W | 来自北航和微软的paper, 噪音相对较少, 多轮(平均7.6轮) | 阿里云盘; 提取码: 81ao |
| ptt | PTT中文語料 | 77W | 开源项目, 台湾PTT论坛八卦版, 繁体, 语料较生活化, 有噪音 | 阿里云盘; 提取码: 81ao |
| qingyun | 阿里云盘; 提取码: 81ao | 10W | 青云语料, 相对不错, 生活化 | |
| subtitle | 电视剧对白语料 | 274W | 来自爬取的电影和美剧的字幕, 有一些噪音, 不严谨的对话, 说话人无法对应起来, 多轮(平均5.3轮) | 阿里云盘; 提取码: 81ao |
| tieba | 贴吧论坛回帖语料; 密码:i4si | 232W | 多轮, 有噪音 | 阿里云盘; 提取码: 81ao |
| 阿里云盘; 提取码: 81ao | 443W | 来自华为的paper | ||
| xiaohuangji | 小黄鸡语料 | 45W | 原人人网项目语料, 有一些不雅对话, 少量噪音 | 阿里云盘; 提取码: 81ao |
参考的数据来源,展开查看
https://github.com/codemayq/chinese_chatbot_corpus
https://github.com/yangjianxin1/GPT2-chitchat