Datasets:

Modalities:
Text
Formats:
json
Languages:
Japanese
ArXiv:
Libraries:
Datasets
pandas
License:
File size: 2,389 Bytes
20ace5c
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
82a8ce7
 
 
 
 
 
20ace5c
 
 
 
 
 
 
 
 
634c354
 
 
 
 
 
20ace5c
 
634c354
 
20ace5c
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
---
license: cc-by-sa-4.0
language:
- ja
size_categories:
- 1M<n<10M
---

# llm-japanese-dataset-vanilla
LLM構築用の日本語チャットデータセット

[izumi-lab/llm-japanese-dataset](https://huggingface.co/datasets/izumi-lab/llm-japanese-dataset) から,日英翻訳のデータセット等を抜いたものです.

主に,日本語LLMモデルなどに対して,チャット(Instruction)応答タスクに関してLoRAなどでチューニングするために使用できます.

※様々な公開言語資源を利用させていただきました.関係各位にはこの場を借りて御礼申し上げます.

## データの詳細

データの詳細は,[izumi-lab/llm-japanese-dataset](https://huggingface.co/datasets/izumi-lab/llm-japanese-dataset) に関する,以下の論文を参照してください.

- 日本語: [https://jxiv.jst.go.jp/index.php/jxiv/preprint/view/383](https://jxiv.jst.go.jp/index.php/jxiv/preprint/view/383)
- 英語: [https://arxiv.org/abs/2305.12720](https://arxiv.org/abs/2305.12720)
- GitHub: [https://github.com/masanorihirano/llm-japanese-dataset](https://github.com/masanorihirano/llm-japanese-dataset)
- 最新情報: [llm.msuzuki.me](https://llm.msuzuki.me).

なお,Citationには,よろしければ,以下をご利用ください.
```
@preprint{Suzuki2023-llmvanilla,
  title={{From Base to Conversational: Japanese Instruction Dataset and Tuning Large Language Models}},
  autor={Masahiro Suzuki and Masanori Hirano and Hiroki Sakaji},
  doi={10.48550/arXiv.2309.03412},
  archivePrefix={arXiv},
  arxivId={2309.03412},
  year={2023}
}
```

共同研究,データ提供,各種支援,その他問い合わせは,izumi-llm@socsim.org へ.

## How to use
```python
from datasets import load_dataset
dataset = load_dataset("izumi-lab/llm-japanese-dataset-vanilla", revision="0.1.0")
print(dataset.num_rows)
# {'train': 1811964}
dataset = load_dataset("izumi-lab/llm-japanese-dataset-vanilla", revision="1.0.0")
print(dataset.num_rows)
# {'train': 2515626}
```

v0.1.0 contains 1,811,964 data
v1.0.0 contains 2,515,626 data

For more details, see: https://github.com/masanorihirano/llm-japanese-dataset/tree/vanilla

## LICENSE
CC-BY-SA 4.0
(For more details, see: LICENSE, NOTICE.md, NOTICE2.md)

## Note
To see more latest information, please go to [llm.msuzuki.me](https://llm.msuzuki.me).