README.md

---
language:
- ja
size_categories:
- 1M<n<10M
license:
- cc-by-sa-3.0
- gfdl
dataset_info:
  features:
  - name: id
    dtype: int32
  - name: pageid
    dtype: int32
  - name: revid
    dtype: int32
  - name: text
    dtype: string
  - name: section
    dtype: string
  - name: title
    dtype: string
  - name: embeddings
    sequence: uint8
  splits:
  - name: train
    num_bytes: 3483313719
    num_examples: 4288198
  download_size: 2160522807
  dataset_size: 3483313719
---

# Dataset Card for llm-book/aio-passages-bert-base-japanese-v3-bpr

書籍『大規模言語モデル入門』で使用する、「AI王」コンペティションのパッセージデータセットに BPR によるパッセージの埋め込みを適用したデータセットです。
[llm-book/aio-passages](https://huggingface.co/datasets/llm-book/aio-passages) のデータセットに対して、[llm-book/bert-base-japanese-v3-bpr-passage-encoder](https://huggingface.co/llm-book/bert-base-japanese-v3-bpr-passage-encoder) によるパッセージのバイナリベクトルが `embeddings` フィールドに追加されています。

## Licence

本データセットで利用している Wikipedia のコンテンツは、[クリエイティブ・コモンズ表示・継承ライセンス 3.0 (CC BY-SA 3.0)](https://creativecommons.org/licenses/by-sa/3.0/deed.ja) および [GNU 自由文書ライセンス (GFDL)](https://www.gnu.org/licenses/fdl.html) の下に配布されているものです。