metadata
language:
- ja
license: cc0-1.0
dataset_info:
- config_name: collection
features:
- name: text
dtype: string
splits:
- name: train
num_bytes: 5404867793
num_examples: 11852254
download_size: 3269616864
dataset_size: 5404867793
- config_name: dataset
features:
- name: anc
dtype: string
- name: pos_ids
sequence: int64
- name: neg_ids
sequence: 'null'
splits:
- name: train
num_bytes: 1725169456
num_examples: 5826275
download_size: 854583745
dataset_size: 1725169456
configs:
- config_name: collection
data_files:
- split: train
path: collection/train-*
- config_name: dataset
data_files:
- split: train
path: dataset/train-*
mqaデータセットのquery--passageのペアについて重複を削除したデータセットです。
元データ中のノイジーなテキストのクリーニングやNFKC正規化などの前処理を行ってあります。
dataset subsetのpos_idsおよびneg_ids中のidは、collectionsubsetのインデックス番号に対応しています。
したがって、collection[pos_id]のようにアクセスしてもらえれば所望のデータを得ることができます。
ライセンスは元データセットに従います。