kumapo commited on
Commit
8333834
1 Parent(s): 3de09eb

Upload README.md

Browse files
Files changed (1) hide show
  1. README.md +174 -2
README.md CHANGED
@@ -9,6 +9,178 @@ language:
9
 
10
  # Dataset Card for JAQKET
11
 
12
-
13
  This dataset loading script is developed on [GitHub](https://github.com/kumapo/JAQKET-dataset).
14
- Please feel free to open an [issue](https://github.com/kumapo/JAQKET-dataset/issues) or [pull request](https://github.com/kumapo/JAQKET-dataset/pulls).
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
9
 
10
  # Dataset Card for JAQKET
11
 
 
12
  This dataset loading script is developed on [GitHub](https://github.com/kumapo/JAQKET-dataset).
13
+ Please feel free to open an [issue](https://github.com/kumapo/JAQKET-dataset/issues) or [pull request](https://github.com/kumapo/JAQKET-dataset/pulls).
14
+
15
+
16
+ ## Dataset Description
17
+
18
+ - **Homepage:** https://sites.google.com/view/project-aio/dataset
19
+ - **Repository:** https://github.com/kumapo/JAQKET-dataset
20
+
21
+ ### Dataset Summary
22
+
23
+ From [the original paper](https://www.anlp.jp/proceedings/annual_meeting/2020/pdf_dir/P2-24.pdf):
24
+
25
+ > 本研究では,日本における質問応答/機械読解研究の促進を目的として,研究者が容易に利用可能な日本語のオープンドメイン QA タスクのデータセット「JAQKET」1を構築する.
26
+ > 作成するデータセットは,既存研究 [7] に倣い,Wikipedia2 の記事名を答えとした,日本語のオープンドメイン QA タスクのデータセットである.
27
+
28
+ ### Supported Tasks
29
+
30
+ #### JAQKET v1.0
31
+
32
+ From [the original paper](https://www.anlp.jp/proceedings/annual_meeting/2020/pdf_dir/P2-24.pdf):
33
+
34
+ > 本研究で扱う日本語オープンドメイン QA タスクを定義する.本研究では,クイズの問題文に対して複数(数個から数十個程度)の解答の選択肢が与られ,その選択肢から正解を一つ選択するという択一問題を取り扱う.
35
+
36
+ #### JAQKET v2.0
37
+
38
+ From [the homepage](https://sites.google.com/view/project-aio/competition2):
39
+
40
+ > 問題として与えられるのはクイズの問題文のみです.その問題文から解答となる文字列を解答として返すシステムを構築してもらいます.
41
+
42
+ ### Languages
43
+
44
+ The language data in JAQKET is in Japanese.
45
+
46
+ ## Dataset Structure
47
+
48
+ ### Data Instances
49
+
50
+ When loading a specific configuration, users has to append a version dependent suffix:
51
+
52
+ #### JAQKET v1.0
53
+
54
+ ```python
55
+ from datasets import load_dataset
56
+
57
+ dataset = load_dataset("kumapo/JAQKET", name="v1.0")
58
+
59
+ print(dataset)
60
+
61
+ # DatasetDict({
62
+ # train: Dataset({
63
+ # features: ['qid', 'question', 'answer_entity', 'label', 'answer_candidates', 'contexts'],
64
+ # num_rows: 13061
65
+ # })
66
+ # validation: Dataset({
67
+ # features: ['qid', 'question', 'answer_entity', 'label', 'answer_candidates', 'contexts'],
68
+ # num_rows: 271
69
+ # })
70
+ # })
71
+ ```
72
+
73
+ An example of the JAQKET v1.0 dataset looks as follows:
74
+
75
+ ```json
76
+ {
77
+ "qid": "QA20QBIK-0002",
78
+ "question": "童謡『たなばたさま』の歌詞で、「さらさら」と歌われる植物は何の葉?",
79
+ "answer_entity": "ササ",
80
+ "answer_candidates": [
81
+ "ササ",
82
+ "チシマザサ",
83
+ "クマザサ",
84
+ "アダン",
85
+ "チガヤ",
86
+ "アセビ",
87
+ "ススキ",
88
+ "ホオノキ",
89
+ "マテバシイ",
90
+ "ヤマフジ",
91
+ "ウツギ",
92
+ "タムシバ",
93
+ "ミズキ",
94
+ "アキタブキ",
95
+ "トベラ",
96
+ "クヌギ",
97
+ "ネズミモチ",
98
+ "ヒシ",
99
+ "コブシ",
100
+ "オオウバユリ"
101
+ ],
102
+ "qtype": "なに〜"
103
+ }
104
+ ```
105
+
106
+ ```json
107
+ {
108
+ "qid": "QA20QBIK-0026",
109
+ "question": "北海道の中心に位置することから「北海道のへそ」と名乗る、ラベンダーで有名な都市はどこ?",
110
+ "answer_entity": "富良野市",
111
+ "answer_candidates": [
112
+ "富良野市",
113
+ "滝川市",
114
+ "北見市",
115
+ "芦別市",
116
+ "中富良野町",
117
+ "名寄市",
118
+ "網走市",
119
+ "美瑛町",
120
+ "南富良野町",
121
+ "岩見沢市",
122
+ "美唄市",
123
+ "上富良野町",
124
+ "倶知安町",
125
+ "小樽市",
126
+ "歌志内市",
127
+ "旭川市",
128
+ "ニセコ町",
129
+ "北斗市",
130
+ "稚内市",
131
+ "帯広市"
132
+ ],
133
+ "qtype": "どこ"
134
+ }
135
+ ```
136
+
137
+ #### JAQKET v2.0
138
+
139
+ ```python
140
+ from datasets import load_dataset
141
+
142
+ dataset = load_dataset("kumapo/JAQKET", name="v2.0")
143
+
144
+ print(dataset)
145
+ # DatasetDict({
146
+ # train: Dataset({
147
+ # features: ['qid', 'question', 'answers', 'ctxs'],
148
+ # num_rows: 2154
149
+ # })
150
+ # validation: Dataset({
151
+ # features: ['qid', 'question', 'answers', 'ctxs'],
152
+ # num_rows: 1164
153
+ # })
154
+ # })
155
+ ```
156
+
157
+ An example of the JAQKET v2.0 dataset looks as follows:
158
+
159
+ ```json
160
+ {
161
+ "qid": "QA20QBIK-0002",
162
+ "competition": "第1回AI王",
163
+ "timestamp": "2020/01/27",
164
+ "section": "開発データ問題 (dev1)",
165
+ "number": "2",
166
+ "original_question": "童謡『たなばたさま』の歌詞で、「さらさら」と歌われる植物は何の葉?",
167
+ "original_answer": "ササ",
168
+ "original_additional_info": "",
169
+ "question": "童謡『たなばたさま』の歌詞で、「さらさら」と歌われる植物は何の葉?",
170
+ "answers" :["ササ"]
171
+ }
172
+ ```
173
+
174
+ ## Additional Information
175
+
176
+ ### Citation Information
177
+
178
+ ```bibtex
179
+ @InProceedings{Kurihara_nlp2020,
180
+ author = "鈴木正敏 and 鈴木潤 and 松田耕史 and ⻄田京介 and 井之上直也",
181
+ title = "JAQKET: クイズを題材にした日本語 QA データセットの構築",
182
+ booktitle = "言語処理学会第26回年次大会",
183
+ year = "2020",
184
+ url = "https://www.anlp.jp/proceedings/annual_meeting/2020/pdf_dir/P2-24.pdf"
185
+ note= "in Japanese"}
186
+ ```