---
dataset_info:
  features:
  - name: qid
    dtype: string
  - name: question
    dtype: string
  - name: answer
    dtype: string
  - name: context
    sequence: string
  - name: answers
    sequence: string
  - name: competition
    dtype: string
  - name: timestamp
    dtype: string
  - name: section
    dtype: string
  - name: number
    dtype: string
  - name: original_question
    dtype: string
  - name: original_answer
    dtype: string
  - name: original_additional_info
    dtype: string
  splits:
  - name: train
    num_bytes: 7981391
    num_examples: 2939
  - name: validation
    num_bytes: 2671680
    num_examples: 980
  download_size: 6275956
  dataset_size: 10653071
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
  - split: validation
    path: data/validation-*
license: cc-by-sa-4.0
task_categories:
- question-answering
language:
- ja
---

# jaqket_v1_qa_wikija_context

[AI王 公式配布データセット(JAQKET)](https://sites.google.com/view/project-aio/dataset?authuser=0)へ、Wikipedia のコンテキストを追加したデータセットです。

JAQKET で公開されていて、かつライセンスが[CC BY-SA 4.0 DEED](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)のデータをもとに、質問の回答が含まれる Wikipedia の passage をコンテキスト追加し HuggingFace Dataset を作成した物です。Q&A タスクにコンテキスト入れて学習させたいときや、質問 + コンテキストから回答をきちんと抽出できるのか(RAGのreader用途)、といったタスクの利用が想定されます。

データセットの context には、wikipedia の関連 Passage の Top-3 が格納されていて、このTop-3のうちのどこかの文字列に answer が含まれています。データはtrain 2939件、validation 980件に split しています。

wikipedia passage には [singletongue/wikipedia-utils の passages-c400-jawiki-20230403](https://huggingface.co/datasets/singletongue/wikipedia-utils/viewer/passages-c400-jawiki-20230403)を、質問から関連する passage の取得には [hotchpotch/wikipedia-passages-jawiki-embeddings](https://huggingface.co/datasets/hotchpotch/wikipedia-passages-jawiki-embeddings)の `multilingual-e5-large-query` を使って類似ベクトル検索し抽出しています。


## データセットの作成スクリプト

- https://huggingface.co/datasets/hotchpotch/jaqket_v1_qa_wikija_context/blob/main/create_dataset.ipynb

## ライセンス

- [CC BY-SA 4.0 DEED](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)