Datasets:

Languages:
Japanese
Size Categories:
1M<n<10M
Tags:
License:
aio-passages / README.md
singletongue's picture
Add a dataset loading script
127f135
metadata
language:
  - ja
size_categories:
  - 1M<n<10M
license:
  - cc-by-sa-3.0
  - gfdl
dataset_info:
  features:
    - name: id
      dtype: int32
    - name: pageid
      dtype: int32
    - name: revid
      dtype: int32
    - name: text
      dtype: string
    - name: section
      dtype: string
    - name: title
      dtype: string
  splits:
    - name: train
      num_bytes: 3054493919
      num_examples: 4288198
  download_size: 1110830651
  dataset_size: 3054493919

Dataset Card for llm-book/aio-passages

書籍『大規模言語モデル入門』で使用する、「AI王」コンペティションのパッセージデータセットです。 GitHub リポジトリ cl-tohoku/quiz-datasets で公開されているデータセットを利用しています。

Licence

本データセットで利用している Wikipedia のコンテンツは、クリエイティブ・コモンズ表示・継承ライセンス 3.0 (CC BY-SA 3.0) および GNU 自由文書ライセンス (GFDL) の下に配布されているものです。