Update README.md
Browse files
README.md
CHANGED
|
@@ -20,6 +20,8 @@ v1.0.1にて，ドロップ後のデータセットをご利用いただけま
|
|
| 20 |
|
| 21 |
2024/1/4にWikipedia summaryに空白文字のみで構成される出力を削除することに対応し，Wikipediaのバージョンアップデート(20240101)をしました(v1.0.2)．
|
| 22 |
|
|
|
|
|
|
|
| 23 |
|
| 24 |
## データの詳細
|
| 25 |
|
|
@@ -56,6 +58,7 @@ dataset = load_dataset("izumi-lab/llm-japanese-dataset", revision="a.b.c") # for
|
|
| 56 |
- version `1.0.0` contains 9,097,388 data (added jqac, wikipedia ja typo corpus)
|
| 57 |
- version `1.0.1` contains 9,045,386 data (dropped alpaca dataset)
|
| 58 |
- version `1.0.2` contains 9,074,350 data (removed samples of blank output and updated version of Wikipedia to 20240101 in Wikipedia summary)
|
|
|
|
| 59 |
|
| 60 |
For more details, see: https://github.com/masanorihirano/llm-japanese-dataset
|
| 61 |
|
|
|
|
| 20 |
|
| 21 |
2024/1/4にWikipedia summaryに空白文字のみで構成される出力を削除することに対応し，Wikipediaのバージョンアップデート(20240101)をしました(v1.0.2)．
|
| 22 |
|
| 23 |
+
2024/1/18にAsian Language Treebank (ALT)データセットの欠損した出力を削除しました(v1.0.3)．
|
| 24 |
+
|
| 25 |
|
| 26 |
## データの詳細
|
| 27 |
|
|
|
|
| 58 |
- version `1.0.0` contains 9,097,388 data (added jqac, wikipedia ja typo corpus)
|
| 59 |
- version `1.0.1` contains 9,045,386 data (dropped alpaca dataset)
|
| 60 |
- version `1.0.2` contains 9,074,350 data (removed samples of blank output and updated version of Wikipedia to 20240101 in Wikipedia summary)
|
| 61 |
+
- version `1.0.3` contains 9,074,340 data (removed samples of blank output in alt)
|
| 62 |
|
| 63 |
For more details, see: https://github.com/masanorihirano/llm-japanese-dataset
|
| 64 |
|