masanorihirano commited on
Commit
1625bdf
•
1 Parent(s): c68fa37

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +10 -4
README.md CHANGED
@@ -7,12 +7,17 @@ size_categories:
7
  ---
8
 
9
  # llm-japanese-dataset
10
- LLM構築用の日本語チャットデータセット
11
 
12
  主に,英語で構築されたLLMモデルなどに対して,チャット(Instruction)応答タスクに関してLoRAなどでチューニングするために使用できます.
13
 
14
  ※様々な公開言語資源を利用させていただきました.関係各位にはこの場を借りて御礼申し上げます.
15
 
 
 
 
 
 
16
  ## データの詳細
17
 
18
  データの詳細は,以下の論文を参照してください.
@@ -43,9 +48,10 @@ dataset = load_dataset("izumi-lab/llm-japanese-dataset", revision="main")
43
  dataset = load_dataset("izumi-lab/llm-japanese-dataset", revision="a.b.c") # for specific version
44
  ```
45
 
46
- version `0.1.0` contains bugs
47
- version `0.1.1` contains 8,393,726 data (bug fixed)
48
- version `1.0.0` contains 9,097,388 data
 
49
 
50
  For more details, see: https://github.com/masanorihirano/llm-japanese-dataset
51
 
7
  ---
8
 
9
  # llm-japanese-dataset
10
+ LLM構築用の日本語インストラクション(チャット)データセット
11
 
12
  主に,英語で構築されたLLMモデルなどに対して,チャット(Instruction)応答タスクに関してLoRAなどでチューニングするために使用できます.
13
 
14
  ※様々な公開言語資源を利用させていただきました.関係各位にはこの場を借りて御礼申し上げます.
15
 
16
+ ## updates
17
+
18
+ 5/15にAlpaca datasetがNCにライセンス変更されたことに対応し,安心してご利用いただけるように,データセットから当該データセットをドロップしました.
19
+ v1.0.1にて,ドロップ後のデータセットをご利用いただけます.
20
+
21
  ## データの詳細
22
 
23
  データの詳細は,以下の論文を参照してください.
48
  dataset = load_dataset("izumi-lab/llm-japanese-dataset", revision="a.b.c") # for specific version
49
  ```
50
 
51
+ - version `0.1.0` contains bugs
52
+ - version `0.1.1` contains 8,393,726 data (bug fixed)
53
+ - version `1.0.0` contains 9,097,388 data (added jqac, wikipedia ja typo corpus)
54
+ - version `1.0.1` contains 9,045,386 data (dropped alpaca dataset)
55
 
56
  For more details, see: https://github.com/masanorihirano/llm-japanese-dataset
57