masa-ok/JAQKET_1000

ランダムに抽出した1000件の学習データセットへ変換

元データ
# DatasetDict({
#     train: Dataset({
#         features: ['qid', 'question', 'answer_entity', 'label', 'answer_candidates', 'contexts'],
#         num_rows: 13061
#     })
#     validation: Dataset({
#         features: ['qid', 'question', 'answer_entity', 'label', 'answer_candidates', 'contexts'],
#         num_rows: 271
#     })
# })

変換データ
# DatasetDict({
#     train: Dataset({
#         features: ['question', 'answer_entity', 'label', 'answer_candidates'],
#         num_rows: 1000
#     })
#     validation: Dataset({
#         features: ['question', 'answer_entity', 'label', 'answer_candidates'],
#         num_rows: 200
#     })
# })

データ元のクレジット
lisence : cc-by-sa-4.0
name : kumapo
URL : https://huggingface.co/datasets/kumapo/JAQKET

@InProceedings{Kurihara_nlp2020,
  author =  "鈴木正敏 and 鈴木潤 and 松田耕史 and ⻄田京介 and 井之上直也",
  title =   "JAQKET: クイズを題材にした日本語 QA データセットの構築",
  booktitle =   "言語処理学会第26回年次大会",
  year =    "2020",
  url = "https://www.anlp.jp/proceedings/annual_meeting/2020/pdf_dir/P2-24.pdf"
  note= "in Japanese"}'