update

README.md

@@ -0,0 +1,118 @@
+---
+license: cc-by-4-0
+pretty_name: SQuAD-it for question generation
+languages: it
+multilinguality: monolingual
+size_categories: 10K<n<100K
+source_datasets: squad_es
+task_categories: question-generation
+task_ids: question-generation
+---
+
+# Dataset Card for "qg_itquad"
+
+## Table of Contents
+- [Dataset Description](#dataset-description)
+  - [Dataset Summary](#dataset-summary)
+  - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
+  - [Languages](#languages)
+- [Dataset Structure](#dataset-structure)
+  - [Data Instances](#data-instances)
+  - [Data Fields](#data-fields)
+  - [Data Splits](#data-splits)
+- [Dataset Creation](#dataset-creation)
+  - [Curation Rationale](#curation-rationale)
+  - [Source Data](#source-data)
+  - [Annotations](#annotations)
+  - [Personal and Sensitive Information](#personal-and-sensitive-information)
+- [Considerations for Using the Data](#considerations-for-using-the-data)
+  - [Social Impact of Dataset](#social-impact-of-dataset)
+  - [Discussion of Biases](#discussion-of-biases)
+  - [Other Known Limitations](#other-known-limitations)
+- [Additional Information](#additional-information)
+  - [Dataset Curators](#dataset-curators)
+  - [Licensing Information](#licensing-information)
+  - [Citation Information](#citation-information)
+
+## Dataset Description
+- **Repository:** [https://github.com/asahi417/lm-question-generation](https://github.com/asahi417/lm-question-generation)
+- **Paper:** [More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+- **Point of Contact:** [Asahi Ushio](http://asahiushio.com/)
+
+### Dataset Summary
+Modified version of [SQuAD-it](https://huggingface.co/datasets/squad_it) for question generation (QG) task.
+Since the original dataset only contains training/validation set, we manually sample test set from training set, which
+has no overlap in terms of the paragraph with the training set.
+
+### Supported Tasks and Leaderboards
+* `question-generation`: The dataset can be used to train a model for question generation.
+  Success on this task is typically measured by achieving a high BLEU4/METEOR/ROUGE-L score.
+
+### Languages
+Italian (it)
+
+## Dataset Structure
+### Data Instances
+#### plain_text
+An example of 'train' looks as follows.
+```
+{
+  'answer': 'comedia musical',
+  'question': '¿Qué género de película protagonizó Beyonce con Cuba Gooding, Jr?',                                                                             
+  'sentence': 'en la comedia musical ',
+  'paragraph': 'En julio de 2002, Beyoncé continuó su carrera como actriz interpretando a Foxxy Cleopatra junto a Mike Myers en la película de comedia, Austin Powers in Goldmember, que pasó su primer fin de semana en la cima de la taquilla de Estados Unidos. Beyoncé lanzó "Work It Out" como el primer sencillo de su álbum de banda sonora que entró en el top ten en el Reino Unido, Noruega y Bélgica. En 2003, Knowles protagonizó junto a Cuba Gooding, Jr., en la comedia musical The Fighting Temptations como Lilly, una madre soltera de quien el personaje de Gooding se enamora. Beyoncé lanzó "Fighting Temptation" como el primer sencillo de la banda sonora de la película, con Missy Elliott, MC Lyte y Free que también se utilizó para promocionar la película. Otra de las contribuciones de Beyoncé a la banda sonora, "Summertime", fue mejor en las listas de Estados Unidos.',
+  'sentence_answer': 'en la <hl> comedia musical <hl> ',
+  'paragraph_answer': 'En julio de 2002, Beyoncé continuó su carrera como actriz interpretando a Foxxy Cleopatra junto a Mike Myers en la película de comedia, Austin Powers in Goldmember, que pasó su primer fin de semana en la cima de la taquilla de Estados Unidos. Beyoncé lanzó "Work It Out" como el primer sencillo de su álbum de banda sonora que entró en el top ten en el Reino Unido, Noruega y Bélgica. En 2003, Knowles protagonizó junto a Cuba Gooding, Jr., en la <hl> comedia musical <hl> The Fighting Temptations como Lilly, una madre soltera de quien el personaje de Gooding se enamora. Beyoncé lanzó "Fighting Temptation" como el primer sencillo de la banda sonora de la película, con Missy Elliott, MC Lyte y Free que también se utilizó para promocionar la película. Otra de las contribuciones de Beyoncé a la banda sonora, "Summertime", fue mejor en las listas de Estados Unidos.',
+  'paragraph_sentence': 'En julio de 2002, Beyoncé continuó su carrera como actriz interpretando a Foxxy Cleopatra junto a Mike Myers en la película de comedia, Austin Powers in Goldmember, que pasó su primer fin de semana en la cima de la taquilla de Estados Unidos. Beyoncé lanzó "Work It Out" como el primer sencillo de su álbum de banda sonora que entró en el top ten en el Reino Unido, Noruega y Bélgica. En 2003, Knowles protagonizó junto a Cuba Gooding, Jr. , <hl> en la comedia musical <hl> The Fighting Temptations como Lilly, una madre soltera de quien el personaje de Gooding se enamora. Beyoncé lanzó "Fighting Temptation" como el primer sencillo de la banda sonora de la película, con Missy Elliott, MC Lyte y Free que también se utilizó para promocionar la película. Otra de las contribuciones de Beyoncé a la banda sonora, "Summertime", fue mejor en las listas de Estados Unidos.',
+}
+```
+### Data Fields
+The data fields are the same among all splits.
+#### plain_text
+- `question`: a `string` feature. 
+- `paragraph`: a `string` feature.
+- `answer`: a `string` feature.
+- `sentence`: a `string` feature.
+- `paragraph_answer`: a `string` feature, which is same as the paragraph but the answer is highlighted by a special token `<hl>`.
+- `paragraph_sentence`: a `string` feature, which is same as the paragraph but a sentence containing the answer is highlighted by a special token `<hl>`.
+- `sentence_answer`: a `string` feature, which is same as the sentence but the answer is highlighted by a special token `<hl>`.
+
+Each of `paragraph_answer`, `paragraph_sentence`, and `sentence_answer` feature is assumed to be used to train a question generation model,
+but with different information. The `paragraph_answer` and `sentence_answer` features are for answer-aware question generation and 
+`paragraph_sentence` feature is for sentence-aware question generation.
+
+### Data Splits
+
+|   name   |train|validation|test |
+|----------|----:|---------:|----:|
+|plain_text|77025|    10570 |10570|
+
+## Dataset Creation
+### Curation Rationale
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+### Source Data
+#### Initial Data Collection and Normalization
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+#### Who are the source language producers?
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+### Annotations
+#### Annotation process
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+#### Who are the annotators?
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+### Personal and Sensitive Information
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+## Considerations for Using the Data
+### Social Impact of Dataset
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+### Discussion of Biases
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+### Other Known Limitations
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+## Additional Information
+### Dataset Curators
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+### Licensing Information
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+### Citation Information
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

qg_itquad.py

@@ -7,9 +7,9 @@ logger = datasets.logging.get_logger(__name__)
 _DESCRIPTION = """[SQuAD-it](https://huggingface.co/datasets/squad_it) dataset for question generation (QG) task."""
 _URL = 'https://huggingface.co/datasets/asahi417/qg_itquad/raw/main/data/processed'
 _URLS = {
-    str(datasets.Split.TEST): [f'{_URL}/test{i:02d}.jsonl' for i in range(8)],
-    str(datasets.Split.TRAIN): [f'{_URL}/train{i:02d}.jsonl' for i in range(52)],
-    str(datasets.Split.VALIDATION): [f'{_URL}/validation{i:02d}.jsonl' for i in range(8)],
+    str(datasets.Split.TEST): [f'{_URL}/test{i:02d}.jsonl' for i in range(6)],
+    str(datasets.Split.TRAIN): [f'{_URL}/train{i:02d}.jsonl' for i in range(32)],
+    str(datasets.Split.VALIDATION): [f'{_URL}/validation{i:02d}.jsonl' for i in range(6)],
 }