jawiki-sentences / README.md
singletongue's picture
Add a dataset loading script
b79ed38
metadata
language:
  - ja
size_categories:
  - 10M<n<100M
license:
  - cc-by-sa-3.0
  - gfdl
dataset_info:
  features:
    - name: text
      dtype: string
  splits:
    - name: train
      num_bytes: 3569619848
      num_examples: 24387500
  download_size: 1297833377
  dataset_size: 3569619848

Dataset Card for llm-book/jawiki-sentences

書籍『大規模言語モデル入門』で使用する Wikipedia 文のデータセットです。 GitHub リポジトリ singletongue/wikipedia-utils で公開されているデータセットを利用しています。

Licence

本データセットで使用している Wikipedia のコンテンツは、クリエイティブ・コモンズ表示・継承ライセンス 3.0 (CC BY-SA 3.0) および GNU 自由文書ライセンス (GFDL) の下に配布されているものです。