Commit
•
1625bdf
1
Parent(s):
c68fa37
Update README.md
Browse files
README.md
CHANGED
|
@@ -7,12 +7,17 @@ size_categories:
|
|
| 7 |
---
|
| 8 |
|
| 9 |
# llm-japanese-dataset
|
| 10 |
-
LLM
|
| 11 |
|
| 12 |
主に，英語で構築されたLLMモデルなどに対して，チャット(Instruction)応答タスクに関してLoRAなどでチューニングするために使用できます．
|
| 13 |
|
| 14 |
※様々な公開言語資源を利用させていただきました．関係各位にはこの場を借りて御礼申し上げます．
|
| 15 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 16 |
## データの詳細
|
| 17 |
|
| 18 |
データの詳細は，以下の論文を参照してください．
|
|
@@ -43,9 +48,10 @@ dataset = load_dataset("izumi-lab/llm-japanese-dataset", revision="main")
|
|
| 43 |
dataset = load_dataset("izumi-lab/llm-japanese-dataset", revision="a.b.c") # for specific version
|
| 44 |
```
|
| 45 |
|
| 46 |
-
version `0.1.0` contains bugs
|
| 47 |
-
version `0.1.1` contains 8,393,726 data (bug fixed)
|
| 48 |
-
version `1.0.0` contains 9,097,388 data
|
|
|
|
| 49 |
|
| 50 |
For more details, see: https://github.com/masanorihirano/llm-japanese-dataset
|
| 51 |
|
|
|
|
| 7 |
---
|
| 8 |
|
| 9 |
# llm-japanese-dataset
|
| 10 |
+
LLM構築用の日本語インストラクション(チャット)データセット
|
| 11 |
|
| 12 |
主に，英語で構築されたLLMモデルなどに対して，チャット(Instruction)応答タスクに関してLoRAなどでチューニングするために使用できます．
|
| 13 |
|
| 14 |
※様々な公開言語資源を利用させていただきました．関係各位にはこの場を借りて御礼申し上げます．
|
| 15 |
|
| 16 |
+
## updates
|
| 17 |
+
|
| 18 |
+
5/15にAlpaca datasetがNCにライセンス変更されたことに対応し，安心してご利用いただけるように，データセットから当該データセットをドロップしました．
|
| 19 |
+
v1.0.1にて，ドロップ後のデータセットをご利用いただけます．
|
| 20 |
+
|
| 21 |
## データの詳細
|
| 22 |
|
| 23 |
データの詳細は，以下の論文を参照してください．
|
|
|
|
| 48 |
dataset = load_dataset("izumi-lab/llm-japanese-dataset", revision="a.b.c") # for specific version
|
| 49 |
```
|
| 50 |
|
| 51 |
+
- version `0.1.0` contains bugs
|
| 52 |
+
- version `0.1.1` contains 8,393,726 data (bug fixed)
|
| 53 |
+
- version `1.0.0` contains 9,097,388 data (added jqac, wikipedia ja typo corpus)
|
| 54 |
+
- version `1.0.1` contains 9,045,386 data (dropped alpaca dataset)
|
| 55 |
|
| 56 |
For more details, see: https://github.com/masanorihirano/llm-japanese-dataset
|
| 57 |
|