Datasets:
Tasks:
Text Generation
Sub-tasks:
language-modeling
Languages:
Korean
Multilinguality:
monolingual
Size Categories:
1k<n<10K
Source Datasets:
lmqg/qg_koquad
ArXiv:
License:
license: cc-by-sa-4.0 | |
pretty_name: SQuAD for question generation | |
language: ko | |
multilinguality: monolingual | |
size_categories: 1k<n<10K | |
source_datasets: lmqg/qg_koquad | |
task_categories: | |
- text-generation | |
task_ids: | |
- language-modeling | |
tags: | |
- question-generation | |
# Dataset Card for "lmqg/qag_koquad" | |
## Dataset Description | |
- **Repository:** [https://github.com/asahi417/lm-question-generation](https://github.com/asahi417/lm-question-generation) | |
- **Paper:** [https://arxiv.org/abs/2210.03992](https://arxiv.org/abs/2210.03992) | |
- **Point of Contact:** [Asahi Ushio](http://asahiushio.com/) | |
### Dataset Summary | |
This is the question & answer generation dataset based on the KOQuAD. | |
### Supported Tasks and Leaderboards | |
* `question-answer-generation`: The dataset is assumed to be used to train a model for question & answer generation. | |
Success on this task is typically measured by achieving a high BLEU4/METEOR/ROUGE-L/BERTScore/MoverScore (see our paper for more in detail). | |
### Languages | |
Korean (ko) | |
## Dataset Structure | |
An example of 'train' looks as follows. | |
``` | |
{ | |
"paragraph": ""3.13 ๋ง์ธ์ด๋" ์ 1919๋ 3.13์ผ ์ ์ฃผ์์ ์ผ์ด๋ ๋ง์ธ์ด๋์ด๋ค. ์ง์ญ ์ธ์ฌ๋ค๊ณผ ํจ๊ป ์ ํฅํ๊ต ํ์๋ค์ด ์ฃผ๋์ ์ธ ์ญํ ์ ํ๋ฉฐ, ๋ง์ธ์ด๋์ ์ด๋์๋ค. ๋ฐํ๋ จ, ๊น์ ๊ทน ๋ฑ ์ ์ฃผ ์ง๋์๋ค์ ๊ตฐ์ฐ์์ 4์ผ๊ณผ 5์ผ ๋ ๋ฆฝ๋ง์ธ ์์๊ฐ ๊ฐํ๋๋ค๋ ์์์ ๋ฃ๊ณ ์ค๋นํ๊ณ ์์๋ค. ์ฒ๋๊ต์ ๋ฐํ๋ จ ์ ๊ฐํ ์ด๋ฌด์ง์์ ํ์ํ ํ๊ทน๊ธฐ๋ฅผ ์ธ์ํ๊ธฐ๋ก ํ์๋ค. ์์ธ์ ๋น๋กฏํ ๋ค๋ฅธ ์ง๋ฐฉ์์ ์์๊ฐ ๊ณ์๋์ ์ผ๋ณธ๊ฒฝ์ฐฐ์ ์ ํฅํ๊ต์ ๊ธฐ์ ํ๊ต๋ฅผ ๋น๋กฏํ ์ ์ฃผ์๋ด ํ๊ต์ ๊ฐ์ ๋ฐฉํ์กฐ์น๋ฅผ ์ทจํ๋ค. ์ด์ ์ต์ข ์ผ ๋ฑ ์ ํฅํ๊ต ํ์ 5๋ช ์ ๋ฐค์ ์ด์ฉํด ์ ํฅํ๊ต ์งํ์ค์์ ํ๊ทน๊ธฐ ๋ฑ ์ธ์๋ฌผ์ ๋ง๋ค์๋ค. ์ค๋น๋ฅผ ๋ง์น ์ด๋ค์ 13์ผ ์ฅํฐ๋ก ๋ชจ์ด๊ธฐ ์์ํ๊ณ , ์ฑ์๊ฐ๋ง๋๋ก ์์ฅํ ํ๊ทน๊ธฐ๋ฅผ ์ฅํฐ๋ก ์ค์ด ๋๋ฅด๊ณ ๊ฑฐ์ฌ ์ง์ ์์ฅ ์ ๊ตฌ์ธ ์์ฐ๋๊ณผ ์ ์ฃผ๊ต ๊ฑด๋ํธ์์ ๊ตฐ์ค๋ค์๊ฒ ์๋ฐํ ๋ฐฐ๋ถํ๋ค. ๋ฎ 12์20๋ถ๊ป ์ ํฅํ๊ต์ ๊ธฐ์ ํ๊ต ํ์ ๋ฐ ์ฒ๋๊ต๋ ๋ฑ์ ํ๊ทน๊ธฐ๋ฅผ ๋ค๊ณ ๋ง์ธ๋ฅผ ๋ถ๋ ๋ค. ๋จ๋ฌธ ๋ฐ ์์ฅ, ์ 2๋ณดํตํ๊ต(ํ ์์ฐ์ด๋ฑํ๊ต)์์ ๋ชจ์ฌ ์ธ์๋ฌผ์ ๋ฟ๋ฆฌ๋ฉฐ ์๊ฐ์ง๋ก ๊ตฌ๋ณด๋ก ํ์งํ๋ค. ์์๋ ์คํ 11์๊น์ง ์๋์ฐจ๋ก ๊ณ์๋๋ค. ๋ ๋ค์๋ ์คํ 3์์๋ ๊ตฐ์ค์ด ๋ชจ์ฌ ๋ง์ธ๋ฅผ ๋ถ๋ ๋ค. ์ดํ ๊ณ ํ์ง, ๋จ๊ถํ, ๊น๋ณํ, ๊น์ ์ , ์ด๊ธฐ๊ณค, ๊น๊ฒฝ์ ๋ฑ ์ ํฅํ๊ต ํ์๋ค์ ์์๋ฅผ ์ฃผ๋ํ๋ค๋ ํ์๋ก ๋ชจ๋ ์คํ 1๋ ์ ์ธ๋ ๋ฐ์๋ค. ์ด์ธ ์ ํฅํ๊ต ํ์ 3๋ช ์ ์ผ์ ์ ๊ณ ๋ฌธ์ ์ฅ์ฌํ ๊ฒ์ผ๋ก ์๋ ค์ก๋ค. ๋ ์์๋ฅผ ์ง๋ํ ๊น์ธ์ ๋ชฉ์ฌ๋ ์ดํ ์ค๊ตญ ์ํด๋ก ๊ฑฐ์ฒ๋ฅผ ์ฎ๊ฒจ ์์์ ๋ถ์์ ํ๋ํ๋ค. ํ์ฌ ์ ํฅํ๊ต ๊ต๋ฌธ ์์ ๋ง์ธ์ด๋ ๊ธฐ๋ ๋น๊ฐ ์ธ์์ ธ ์๋ค.", | |
"questions": [ "๋ง์ธ์ด๋ ๊ธฐ๋ ๋น๊ฐ ์ธ์์ ธ ์๋ ๊ณณ์?", "์ผ๋ณธ๊ฒฝ์ฐฐ์ ๊ฐ์ ๋ฐฉํ์กฐ์น์๋ ๋ถ๊ตฌํ๊ณ ํ์๋ค์ ์ ํฅํ๊ต ์งํ์ค์ ๋ชจ์ฌ์ ์ด๋ค ์ธ์๋ฌผ์ ๋ง๋ค์๋๊ฐ?", "์ฌ๋ฌ ์ง๋ฐฉ์์ ์์๊ฐ ์ผ์ด๋์ ์ผ๋ณธ๊ฒฝ์ฐฐ์ด ์ ์ฃผ์๋ด ํ๊ต์ ๊ฐํํ ์กฐ์น๋ ๋ฌด์์ธ๊ฐ?", "์ง์ญ์ธ์ฌ๋ค๊ณผ ์ ํฅ๊ณ ๋ฑํ๊ต ํ์๋ค์ด ์ฃผ๋์ ์ธ ์ญํ ์ ํ 3.13 ๋ง์ธ์ด๋์ด ์ผ์ด๋ ํด๋?", "์ ํฅํ๊ต ํ์๋ค์ ์์๋ฅผ ์ฃผ๋ํ๋ค๋ ํ์๋ก ๋ชจ๋ ์คํ ๋ช๋ ์ ์ธ๋ ๋ฐ์๋๊ฐ?", "๋ง์ธ์ด๋์์ ์ฃผ๋์ ์ธ ์ญํ ์ ํ ์ด๋ค์?", "1919๋ 3.1 ์ด๋์ด ์ผ์ด๋ ์ง์ญ์ ์ด๋์ธ๊ฐ?", "3.13 ๋ง์ธ์ด๋์ด ์ผ์ด๋ ๊ณณ์?" ], | |
"answers": [ "์ ํฅํ๊ต ๊ต๋ฌธ ์", "ํ๊ทน๊ธฐ", "๊ฐ์ ๋ฐฉํ์กฐ์น", "1919๋ ", "1๋ ", "์ ํฅํ๊ต ํ์๋ค", "์ ์ฃผ", "์ ์ฃผ" ], | |
"questions_answers": "question: ๋ง์ธ์ด๋ ๊ธฐ๋ ๋น๊ฐ ์ธ์์ ธ ์๋ ๊ณณ์?, answer: ์ ํฅํ๊ต ๊ต๋ฌธ ์ | question: ์ผ๋ณธ๊ฒฝ์ฐฐ์ ๊ฐ์ ๋ฐฉํ์กฐ์น์๋ ๋ถ๊ตฌํ๊ณ ํ์๋ค์ ์ ํฅํ๊ต ์งํ์ค์ ๋ชจ์ฌ์ ์ด๋ค ์ธ์๋ฌผ์ ๋ง๋ค์๋๊ฐ?, answer: ํ๊ทน๊ธฐ | question: ์ฌ๋ฌ ์ง๋ฐฉ์์ ์์๊ฐ ์ผ์ด๋์ ์ผ๋ณธ๊ฒฝ์ฐฐ์ด ์ ์ฃผ์๋ด ํ๊ต์ ๊ฐํํ ์กฐ์น๋ ๋ฌด์์ธ๊ฐ?, answer: ๊ฐ์ ๋ฐฉํ์กฐ์น | question: ์ง์ญ์ธ์ฌ๋ค๊ณผ ์ ํฅ๊ณ ๋ฑํ๊ต ํ์๋ค์ด ์ฃผ๋์ ์ธ ์ญํ ์ ํ 3.13 ๋ง์ธ์ด๋์ด ์ผ์ด๋ ํด๋?, answer: 1919๋ | question: ์ ํฅํ๊ต ํ์๋ค์ ์์๋ฅผ ์ฃผ๋ํ๋ค๋ ํ์๋ก ๋ชจ๋ ์คํ ๋ช๋ ์ ์ธ๋ ๋ฐ์๋๊ฐ?, answer: 1๋ | question: ๋ง์ธ์ด๋์์ ์ฃผ๋์ ์ธ ์ญํ ์ ํ ์ด๋ค์?, answer: ์ ํฅํ๊ต ํ์๋ค | question: 1919๋ 3.1 ์ด๋์ด ์ผ์ด๋ ์ง์ญ์ ์ด๋์ธ๊ฐ?, answer: ์ ์ฃผ | question: 3.13 ๋ง์ธ์ด๋์ด ์ผ์ด๋ ๊ณณ์?, answer: ์ ์ฃผ" | |
} | |
``` | |
The data fields are the same among all splits. | |
- `questions`: a `list` of `string` features. | |
- `answers`: a `list` of `string` features. | |
- `paragraph`: a `string` feature. | |
- `questions_answers`: a `string` feature. | |
## Data Splits | |
|train|validation|test | | |
|----:|---------:|----:| | |
|9600 | 960 | 4442| | |
## Citation Information | |
``` | |
@inproceedings{ushio-etal-2022-generative, | |
title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration", | |
author = "Ushio, Asahi and | |
Alva-Manchego, Fernando and | |
Camacho-Collados, Jose", | |
booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing", | |
month = dec, | |
year = "2022", | |
address = "Abu Dhabi, U.A.E.", | |
publisher = "Association for Computational Linguistics", | |
} | |
``` |