metadata

task_categories:
  - question-answering
language:
  - fr
size_categories:
  - 100K<n<1M

Information concernant le jeu de données

Jeu de données concaténant tous les jeux de données de QA avec contexte disponible en français et en open-source.
A ces jeux de données ont été ajouté une version augmenté de ces derniers (même contexte mais avec des questions différentes afin de créer des données au format SQuADv2).
Au total il y a 221 348 données d'entraînement, 910 données de validation et 6 376 données de test (les 3 188 premières lignes correspondent au format SQuADv2, les 3 188 au format SQuADv2).

Usage

from datasets import load_dataset
dataset = load_dataset("CATIE-AQ/frenchQA",sep=";")

dataset
DatasetDict({
    train: Dataset({
        features: ['context', 'question', 'answer', 'answer_start', 'dataset'],
        num_rows: 221348
    })
    test: Dataset({
        features: ['context', 'question', 'answer', 'answer_start', 'dataset'],
        num_rows: 3188
    })
    validation: Dataset({
        features: ['context', 'question', 'answer', 'answer_start', 'dataset'],
        num_rows: 910
    })
})

dataset_train = dataset['train'].to_pandas()
dataset_train.head()

       context 	                                        question 	                                        answer 	                    answer_start 	dataset
0 	Beyoncé Giselle Knowles-Carter (/ biːˈjɒnseɪ /... 	Quand Beyonce a-t-elle commencé à devenir popu... 	à la fin des années 1990 	269 	        pragnakalp/squad_v2_french_translated
1 	Beyoncé Giselle Knowles-Carter (/ biːˈjɒnseɪ /... 	Quand Beyonce a-t-elle quitté Destiny's Child ... 	2003 	                    549 	        pragnakalp/squad_v2_french_translated
2 	Beyoncé Giselle Knowles-Carter (/ biːˈjɒnseɪ /... 	Qui a dirigé le groupe Destiny's Child ? 	        Mathew Knowles 	            376 	        pragnakalp/squad_v2_french_translated
3 	Beyoncé Giselle Knowles-Carter (/ biːˈjɒnseɪ /... 	Quand Beyoncé a-t-elle sorti Dangerously in Lo... 	2003 	                    549 	        pragnakalp/squad_v2_french_translated
4 	Beyoncé Giselle Knowles-Carter (/ biːˈjɒnseɪ /... 	Combien de Grammy Awards Beyoncé a-t-elle gagn... 	cinq 	                    629 	        pragnakalp/squad_v2_french_translated

Colonnes

la colonne context contient le contexte
la colonne question contient la question
la colonne answer contient la réponse (a été remplacé par sans_réponse pour les lignes au format SQuAD v2)
la colonne answer_start contient la position du début de la réponse dans le contexte ( a été remplacé par -1 pour les lignes au format SQuAD v2)
la colonne dataset permet de connaître le jeu de données d'origine de la ligne (si on souhaite appliquer des filtres dessus, les lignes au format SQuAD v2 sont indiquées avec le suffixe _v2 dans le nom du jeu de données)

Split

train correspond à la concaténation du jeu de données d'entraînement de pragnakalp/squad_v2_french_translated + FQuADv1.0 + lincoln/newsquadfr + PIAFv1.2 + la version augmentée de chaque jeu de données au format SQuADv2 (aucun shuffle n'a été effectué)
validation correspond à la concaténation du jeu de données de validation de newsquadfr + ce même jeu de donnée augmenté au format SQuAD v2 (= newsquadfr_v2) (aucun shuffle n'a été effectué)
test correspond à l'échantillon de validation de FQuAD (le jeu de données de test de FQuAD n'étant pas dispo en open-source, le jeu de validation est devenu celui sur lequel les différents modèles se comparent) + ce même jeu de donnée augmenté au format SQuAD v2 (= fquad_v2) (aucun shuffle n'a été effectué)

Datasets

Dataset	Format	Train split	Dev split	Test split
piaf	SQuAD v1	9 224 Q & A	X	X
piaf_v2	SQuAD v2	9 224 Q & A	X	X
fquad	SQuAD v1	20 731 Q & A	3 188 Q & A (n'est pas utilisé pour entraîner car sert de jeu de données de test)	2 189 Q & A (non disponible librement)
fquad_v2	SQuAD v2	20 731 Q & A	3 188 Q & A (n'est pas utilisé pour entraîner car sert de jeu de données de test)	X
lincoln/newsquadfr	SQuAD v1	1 650 Q & A	455 Q & A	X
lincoln/newsquadfr_v2	SQuAD v2	1 650 Q & A	455 Q & A	X
pragnakalp/squad_v2_french_translated	SQuAD v2	79 069 Q & A	X	X
pragnakalp/squad_v2_french_translated_v2	SQuAD v2	79 069 Q & A	X	X