README.md

---
license: other
license_name: other
license_link: LICENSE
task_categories:
- text-generation
language:
- ja
---

# AKU-d_ms-0.5B-v0.1_dataset
## Overview
このリポジトリでは、私の開発している[AKUシリーズ](https://github.com/YukiTomita-CC/AKU)の一つである、**AKU-d_ms-0.5B-v0.1**の事前学習に使用したテキストデータを公開しています。

これには次で説明するように複数の公開データセットが含まれており、それぞれのライセンスや著作権は各データセットに従います。\
また、各データセットに対する処理スクリプトは、上記[GitHubリポジトリ内](https://github.com/YukiTomita-CC/AKU/tree/main/aku/dataset)にて公開しています。

## Each Dataset Description
| Dataset Name                                           | License      | URL or Repository                                                                                                                         |
| :----------------------------------------------------- | :----------- | :---------------------------------------------------------------------------------------------------------------------------------------- |
| Accommodation Search Dialog Corpus (in Japanese)       | CC-BY-4.0    | [GitHub](https://github.com/megagonlabs/asdc)                                                                                             |
| Japanese Movie Recommendation Dialogue                 | CC-BY-SA-4.0 | [GitHub](https://github.com/ku-nlp/JMRD)                                                                                                  |
| OjousamaTalkScriptDataset                              | MIT          | [GitHub](https://github.com/matsuvr/OjousamaTalkScriptDataset)                                                                            |
| Rosebleu                                               | Apache-2.0   | [GitLab](https://gitlab.com/open_contents_datasets/Rosebleu)                                                                              |
| character conversation dataset                         | Apache-2.0   | [GitHub](https://github.com/matsuvr/characterconversationdataset)                                                                         |
| 感想付きニュース雑談対話コーパス                       | MIT          | [GitHub](https://github.com/fukanarita/newschat-with-impression)                                                                          |
| RealPersonaChat                                        | CC-BY-SA-4.0 | [GitHub](https://github.com/nu-dialogue/real-persona-chat), [Hugging Face](https://huggingface.co/datasets/nu-dialogue/real-persona-chat) |
| JMultiWOZ: Japanese Multi-Domain Wizard-of-Oz Dataset  | CC-BY-SA-4.0 | [GitHub](https://github.com/nu-dialogue/jmultiwoz), [Hugging Face](https://huggingface.co/datasets/nu-dialogue/jmultiwoz)                 |
| aozorabunko-clean                                      | CC-BY-4.0    | [Hugging Face](https://huggingface.co/datasets/globis-university/aozorabunko-clean)                                                       |
| Wikipedia                                              | CC-BY-SA-3.0 | [Hugging Face](https://huggingface.co/datasets/wikimedia/wikipedia)                                                                       |