Datasets:
metadata
license: other
license_name: other
license_link: LICENSE
task_categories:
- text-generation
language:
- ja
AKU-d_ms-0.5B-v0.1_dataset
Overview
このリポジトリでは、私の開発しているAKUシリーズの一つである、AKU-d_ms-0.5B-v0.1の事前学習に使用したテキストデータを公開しています。
これには次で説明するように複数の公開データセットが含まれており、それぞれのライセンスや著作権は各データセットに従います。
また、各データセットに対する処理スクリプトは、上記GitHubリポジトリ内にて公開しています。
Each Dataset Description
| Dataset Name | License | URL or Repository |
|---|---|---|
| Accommodation Search Dialog Corpus (in Japanese) | CC-BY-4.0 | GitHub |
| Japanese Movie Recommendation Dialogue | CC-BY-SA-4.0 | GitHub |
| OjousamaTalkScriptDataset | MIT | GitHub |
| Rosebleu | Apache-2.0 | GitLab |
| character conversation dataset | Apache-2.0 | GitHub |
| 感想付きニュース雑談対話コーパス | MIT | GitHub |
| RealPersonaChat | CC-BY-SA-4.0 | GitHub, Hugging Face |
| JMultiWOZ: Japanese Multi-Domain Wizard-of-Oz Dataset | CC-BY-SA-4.0 | GitHub, Hugging Face |
| aozorabunko-clean | CC-BY-4.0 | Hugging Face |
| Wikipedia | CC-BY-SA-3.0 | Hugging Face |