File size: 8,855 Bytes
e1655fd ecfa25a e1655fd ecfa25a e1655fd 7b08769 e1655fd 4d9ded8 e1655fd f85125e 584b1af f85125e 584b1af 6e2d48d e1655fd 16ed971 e1655fd 584b1af 4d9ded8 f85125e e1655fd f85125e |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 |
import json
import os
import datasets
from datasets.tasks import TextClassification
_CITATION = None
_DESCRIPTION = """\
QR-AN Dataset: a classification dataset on french Parliament debates
This is a dataset for theme/topic classification, made of questions and answers from https://www2.assemblee-nationale.fr/recherche/resultats_questions.
It contains 188 unbalanced classes, 80k questions-answers divided into 3 splits: train (60k), val (10k) and test (10k).
"""
_LABELS = [
'administration', 'agriculture', 'agroalimentaire', 'aménagement du territoire', 'anciens combattants et victimes de guerre',
'animaux', 'aquaculture et pêche professionnelle', 'architecture', 'archives et bibliothèques', 'armes', 'arts et spectacles',
'associations', 'assurance invalidité décès', 'assurance maladie maternité : généralités', 'assurance maladie maternité : prestations',
'assurances', 'audiovisuel et communication', 'automobiles et cycles', 'avortement', 'banques et établissements financiers',
'bâtiment et travaux publics', 'baux', 'bioéthique', 'bois et forêts', "bourses d'études", 'cérémonies publiques et fêtes légales',
'chambres consulaires', 'chasse et pêche', 'chômage : indemnisation', 'collectivités territoriales', 'commerce et artisanat',
'commerce extérieur', 'communes', 'consommation', 'contributions indirectes', 'coopération intercommunale', 'copropriété',
'corps diplomatique et consulaire', "cours d'eau, étangs et lacs", 'cultes', 'culture', 'déchéances et incapacités',
'déchets, pollution et nuisances', 'décorations, insignes et emblèmes', 'défense', 'démographie', 'départements',
'donations et successions', 'drogue', 'droit pénal', "droits de l'Homme et libertés publiques", 'eau', 'économie sociale',
'éducation physique et sportive', 'élections et référendums', 'élevage', 'emploi', 'énergie et carburants', 'enfants',
'enregistrement et timbre', 'enseignement', 'enseignement : personnel', 'enseignement agricole',
'enseignement maternel et primaire', 'enseignement maternel et primaire : personnel', 'enseignement privé',
'enseignement secondaire', 'enseignement secondaire : personnel', 'enseignement supérieur',
'enseignement supérieur : personnel', 'enseignement technique et professionnel',
'enseignement technique et professionnel : personnel', 'enseignements artistiques',
'entreprises', 'environnement', 'ésotérisme', 'espace', 'établissements de santé', 'État',
'état civil', 'étrangers', 'famille', 'femmes', 'finances publiques', "fonction publique de l'État",
'fonction publique hospitalière', 'fonction publique territoriale', 'fonctionnaires et agents publics',
'formation professionnelle', "Français de l'étranger", 'frontaliers', 'gendarmerie', 'gens du voyage',
'grandes écoles', 'handicapés', 'heure légale', 'hôtellerie et restauration', 'impôt de solidarité sur la fortune',
'impôt sur le revenu', 'impôt sur les sociétés', 'impôts et taxes', 'impôts locaux', 'industrie', 'informatique',
'institutions sociales et médico-sociales', 'jeunes', 'jeux et paris', 'justice', 'langue française', 'logement',
'logement : aides et prêts', 'marchés financiers', 'marchés publics', 'matières premières', 'médecines parallèles',
'mer et littoral', 'mines et carrières', "ministères et secrétariats d'État", 'mort', 'moyens de paiement', 'nationalité',
'ordre public', 'organisations internationales', 'outre-mer', "papiers d'identité", 'Parlement',
'partis et mouvements politiques', 'patrimoine culturel', "pensions militaires d'invalidité", 'personnes âgées',
'pharmacie et médicaments', 'plus-values : imposition', 'police', 'politique économique', 'politique extérieure',
'politique sociale', 'politiques communautaires', 'postes', 'préretraites', 'presse et livres', 'prestations familiales',
'produits dangereux', 'professions de santé', 'professions immobilières', 'professions judiciaires et juridiques',
'professions libérales', 'professions sociales', 'propriété', 'propriété intellectuelle', 'publicité', 'rapatriés',
'recherche', 'régions', 'relations internationales', 'retraites : fonctionnaires civils et militaires',
'retraites : généralités', 'retraites : régime agricole', 'retraites : régime général', 'retraites : régimes autonomes et spéciaux',
'risques professionnels', 'saisies et sûretés', 'sang et organes humains', 'santé', 'secteur public', 'sécurité publique',
'sécurité routière', 'sécurité sociale', 'services', 'sociétés', 'sports', 'syndicats', 'système pénitentiaire', 'taxis',
'télécommunications', 'tourisme et loisirs', 'traités et conventions', 'transports', 'transports aériens',
'transports ferroviaires', 'transports par eau', 'transports routiers', 'transports urbains', 'travail', 'TVA',
'Union européenne', 'urbanisme', 'ventes et échanges', 'voirie'
]
class QRANConfig(datasets.BuilderConfig):
"""BuilderConfig for QR-AN."""
def __init__(self, **kwargs):
"""BuilderConfig for QR-AN.
Args:
**kwargs: keyword arguments forwarded to super.
"""
super(QRANConfig, self).__init__(**kwargs)
class QRANDataset(datasets.GeneratorBasedBuilder):
"""QR-AN Dataset: Topic dataset on french Parliament questions-answers."""
_DOWNLOAD_URL = "https://huggingface.co/datasets/cassandra-themis/QR-AN/resolve/main/"
_TRAIN_FILE = "train_data.txt"
_VAL_FILE = "val_data.txt"
_TEST_FILE = "test_data.txt"
_LABELS_DICT = {label: i for i, label in enumerate(_LABELS)}
BUILDER_CONFIGS = [
QRANConfig(
name="qran_answer",
version=datasets.Version("1.0.0"),
description="QRAN Dataset: A classification task of French Parliament questions-answers",
),
QRANConfig(
name="qran_question",
version=datasets.Version("1.0.0"),
description="QRAN Dataset: A classification task of French Parliament questions-answers",
),
QRANConfig(
name="qran_full",
version=datasets.Version("1.0.0"),
description="QRAN Dataset: A classification task of French Parliament questions-answers",
),
QRANConfig(
name="qran_generation",
version=datasets.Version("1.0.0"),
description="QRAN Dataset: A generation task of French Parliament questions-answers",
)
]
DEFAULT_CONFIG_NAME = "qran_answer"
def _info(self):
if self.config.name == "qran_generation":
features = {
"question": datasets.Value("string"),
"answer": datasets.Value("string"),
}
else:
features = {
"text": datasets.Value("string"),
"label": datasets.features.ClassLabel(names=_LABELS),
}
return datasets.DatasetInfo(
description=_DESCRIPTION,
features=datasets.Features(features),
supervised_keys=None,
citation=_CITATION,
)
def _split_generators(self, dl_manager):
train_path = dl_manager.download_and_extract(self._TRAIN_FILE)
val_path = dl_manager.download_and_extract(self._VAL_FILE)
test_path = dl_manager.download_and_extract(self._TEST_FILE)
return [
datasets.SplitGenerator(
name=datasets.Split.TRAIN, gen_kwargs={"filepath": train_path}
),
datasets.SplitGenerator(
name=datasets.Split.VALIDATION, gen_kwargs={"filepath": val_path}
),
datasets.SplitGenerator(
name=datasets.Split.TEST, gen_kwargs={"filepath": test_path}
),
]
def _generate_examples(self, filepath):
"""Generate QRAN examples."""
with open(filepath, encoding="utf-8") as f:
for id_, row in enumerate(f):
data = json.loads(row)
answer, question = data["answer"], data["question"]
label = self._LABELS_DICT[data["label_name"]]
if self.config.name == "qran_generation":
yield id_, {"question": question, "answer": answer}
else:
if self.config.name == "qran_answer":
text = answer
elif self.config.name == "qran_question":
text = question
else:
text = question + " " + answer
yield id_, {"text": text, "label": label}
|