tkon3 commited on
Commit
e1655fd
1 Parent(s): 5d8d6d7

first commit

Browse files
Files changed (7) hide show
  1. .gitattributes +1 -0
  2. QR-AN.py +148 -0
  3. README.md +4 -0
  4. rubriques.txt +3 -0
  5. test_data.txt +3 -0
  6. train_data.txt +3 -0
  7. val_data.txt +3 -0
.gitattributes CHANGED
@@ -25,3 +25,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
25
  *.zip filter=lfs diff=lfs merge=lfs -text
26
  *.zstandard filter=lfs diff=lfs merge=lfs -text
27
  *tfevents* filter=lfs diff=lfs merge=lfs -text
 
 
25
  *.zip filter=lfs diff=lfs merge=lfs -text
26
  *.zstandard filter=lfs diff=lfs merge=lfs -text
27
  *tfevents* filter=lfs diff=lfs merge=lfs -text
28
+ *.txt filter=lfs diff=lfs merge=lfs -text
QR-AN.py ADDED
@@ -0,0 +1,148 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import json
2
+ import os
3
+
4
+ import datasets
5
+ from datasets.tasks import TextClassification
6
+
7
+
8
+ _CITATION = None
9
+
10
+
11
+ _DESCRIPTION = """\
12
+ QR-AN Dataset: a classification dataset on french Parliament debates
13
+ This is a dataset for theme/topic classification, made of questions and answers from https://www2.assemblee-nationale.fr/recherche/resultats_questions.
14
+ It contains 188 unbalanced classes, 80k questions-answers divided into 3 splits: train (60k), val (10k) and test (10k).
15
+ """
16
+
17
+ _LABELS = [
18
+ 'administration', 'agriculture', 'agroalimentaire', 'aménagement du territoire', 'anciens combattants et victimes de guerre',
19
+ 'animaux', 'aquaculture et pêche professionnelle', 'architecture', 'archives et bibliothèques', 'armes', 'arts et spectacles',
20
+ 'associations', 'assurance invalidité décès', 'assurance maladie maternité : généralités', 'assurance maladie maternité : prestations',
21
+ 'assurances', 'audiovisuel et communication', 'automobiles et cycles', 'avortement', 'banques et établissements financiers',
22
+ 'bâtiment et travaux publics', 'baux', 'bioéthique', 'bois et forêts', "bourses d'études", 'cérémonies publiques et fêtes légales',
23
+ 'chambres consulaires', 'chasse et pêche', 'chômage : indemnisation', 'collectivités territoriales', 'commerce et artisanat',
24
+ 'commerce extérieur', 'communes', 'consommation', 'contributions indirectes', 'coopération intercommunale', 'copropriété',
25
+ 'corps diplomatique et consulaire', "cours d'eau, étangs et lacs", 'cultes', 'culture', 'déchéances et incapacités',
26
+ 'déchets, pollution et nuisances', 'décorations, insignes et emblèmes', 'défense', 'démographie', 'départements',
27
+ 'donations et successions', 'drogue', 'droit pénal', "droits de l'Homme et libertés publiques", 'eau', 'économie sociale',
28
+ 'éducation physique et sportive', 'élections et référendums', 'élevage', 'emploi', 'énergie et carburants', 'enfants',
29
+ 'enregistrement et timbre', 'enseignement', 'enseignement : personnel', 'enseignement agricole',
30
+ 'enseignement maternel et primaire', 'enseignement maternel et primaire : personnel', 'enseignement privé',
31
+ 'enseignement secondaire', 'enseignement secondaire : personnel', 'enseignement supérieur',
32
+ 'enseignement supérieur : personnel', 'enseignement technique et professionnel',
33
+ 'enseignement technique et professionnel : personnel', 'enseignements artistiques',
34
+ 'entreprises', 'environnement', 'ésotérisme', 'espace', 'établissements de santé', 'État',
35
+ 'état civil', 'étrangers', 'famille', 'femmes', 'finances publiques', "fonction publique de l'État",
36
+ 'fonction publique hospitalière', 'fonction publique territoriale', 'fonctionnaires et agents publics',
37
+ 'formation professionnelle', "Français de l'étranger", 'frontaliers', 'gendarmerie', 'gens du voyage',
38
+ 'grandes écoles', 'handicapés', 'heure légale', 'hôtellerie et restauration', 'impôt de solidarité sur la fortune',
39
+ 'impôt sur le revenu', 'impôt sur les sociétés', 'impôts et taxes', 'impôts locaux', 'industrie', 'informatique',
40
+ 'institutions sociales et médico-sociales', 'jeunes', 'jeux et paris', 'justice', 'langue française', 'logement',
41
+ 'logement : aides et prêts', 'marchés financiers', 'marchés publics', 'matières premières', 'médecines parallèles',
42
+ 'mer et littoral', 'mines et carrières', "ministères et secrétariats d'État", 'mort', 'moyens de paiement', 'nationalité',
43
+ 'ordre public', 'organisations internationales', 'outre-mer', "papiers d'identité", 'Parlement',
44
+ 'partis et mouvements politiques', 'patrimoine culturel', "pensions militaires d'invalidité", 'personnes âgées',
45
+ 'pharmacie et médicaments', 'plus-values : imposition', 'police', 'politique économique', 'politique extérieure',
46
+ 'politique sociale', 'politiques communautaires', 'postes', 'préretraites', 'presse et livres', 'prestations familiales',
47
+ 'produits dangereux', 'professions de santé', 'professions immobilières', 'professions judiciaires et juridiques',
48
+ 'professions libérales', 'professions sociales', 'propriété', 'propriété intellectuelle', 'publicité', 'rapatriés',
49
+ 'recherche', 'régions', 'relations internationales', 'retraites : fonctionnaires civils et militaires',
50
+ 'retraites : généralités', 'retraites : régime agricole', 'retraites : régime général', 'retraites : régimes autonomes et spéciaux',
51
+ 'risques professionnels', 'saisies et sûretés', 'sang et organes humains', 'santé', 'secteur public', 'sécurité publique',
52
+ 'sécurité routière', 'sécurité sociale', 'services', 'sociétés', 'sports', 'syndicats', 'système pénitentiaire', 'taxis',
53
+ 'télécommunications', 'tourisme et loisirs', 'traités et conventions', 'transports', 'transports aériens',
54
+ 'transports ferroviaires', 'transports par eau', 'transports routiers', 'transports urbains', 'travail', 'TVA',
55
+ 'Union européenne', 'urbanisme', 'ventes et échanges', 'voirie'
56
+ ]
57
+
58
+
59
+ class QRANConfig(datasets.BuilderConfig):
60
+ """BuilderConfig for QR-AN."""
61
+
62
+ def __init__(self, **kwargs):
63
+ """BuilderConfig for QR-AN.
64
+ Args:
65
+ **kwargs: keyword arguments forwarded to super.
66
+ """
67
+ super(QRANConfig, self).__init__(**kwargs)
68
+
69
+
70
+ class QRANDataset(datasets.GeneratorBasedBuilder):
71
+ """QR-AN Dataset: Topic dataset on french Parliament questions-answers."""
72
+
73
+ _DOWNLOAD_URL = "https://huggingface.co/datasets/cassandra-themis/QR-AN/resolve/main/"
74
+ _TRAIN_FILE = "train_data.txt"
75
+ _VAL_FILE = "val_data.txt"
76
+ _TEST_FILE = "test_data.txt"
77
+ _LABELS_DICT = {label: i for i, label in enumerate(_LABELS)}
78
+
79
+ BUILDER_CONFIGS = [
80
+ QRANConfig(
81
+ name="qran_answer",
82
+ version=datasets.Version("1.0.0"),
83
+ description="QRAN Dataset: A classification task of French Parliament questions-answers",
84
+ ),
85
+ QRANConfig(
86
+ name="qran_question",
87
+ version=datasets.Version("1.0.0"),
88
+ description="QRAN Dataset: A classification task of French Parliament questions-answers",
89
+ ),
90
+ QRANConfig(
91
+ name="qran_full",
92
+ version=datasets.Version("1.0.0"),
93
+ description="QRAN Dataset: A classification task of French Parliament questions-answers",
94
+ )
95
+ ]
96
+
97
+ DEFAULT_CONFIG_NAME = "qran_answer"
98
+
99
+ def _info(self):
100
+ return datasets.DatasetInfo(
101
+ description=_DESCRIPTION,
102
+ features=datasets.Features(
103
+ {
104
+ "text": datasets.Value("string"),
105
+ #"question": datasets.Value("string"),
106
+ #"answer": datasets.Value("string"),
107
+ #"label_name": datasets.Value("string"),
108
+ "label": datasets.features.ClassLabel(names=_LABELS),
109
+ }
110
+ ),
111
+ supervised_keys=None,
112
+ citation=_CITATION,
113
+ task_templates=[TextClassification(
114
+ text_column="text", label_column="label")],
115
+ )
116
+
117
+ def _split_generators(self, dl_manager):
118
+ train_path = dl_manager.download_and_extract(self._DOWNLOAD_URL + self._TRAIN_FILE)
119
+ val_path = dl_manager.download_and_extract(self._DOWNLOAD_URL + self._VAL_FILE)
120
+ test_path = dl_manager.download_and_extract(self._DOWNLOAD_URL + self._TEST_FILE)
121
+
122
+ return [
123
+ datasets.SplitGenerator(
124
+ name=datasets.Split.TRAIN, gen_kwargs={"filepath": train_path}
125
+ ),
126
+ datasets.SplitGenerator(
127
+ name=datasets.Split.VALIDATION, gen_kwargs={"filepath": val_path}
128
+ ),
129
+ datasets.SplitGenerator(
130
+ name=datasets.Split.TEST, gen_kwargs={"filepath": test_path}
131
+ ),
132
+ ]
133
+
134
+ def _generate_examples(self, filepath):
135
+ """Generate QRAN examples."""
136
+ with open(filepath, encoding="utf-8") as f:
137
+ for id_, row in enumerate(f):
138
+ data = json.loads(row)
139
+ answer, question = data["answer"], data["question"]
140
+ label = self._LABELS_DICT[data["label_name"]]
141
+
142
+ if self.config.name == "qran_answer":
143
+ text = answer
144
+ elif self.config.name == "qran_question":
145
+ text = question
146
+ else:
147
+ text = question + " " + answer
148
+ yield id_, {"text": text, "label": label}
README.md ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ ## QR-AN Dataset: a classification dataset of french Parliament questions-answers. \
2
+
3
+ This is a dataset for theme/topic classification, made of questions and answers from https://www2.assemblee-nationale.fr/recherche/resultats_questions . \
4
+ It contains 188 unbalanced classes, 80k questions-answers divided into 3 splits: train (60k), val (10k) and test (10k).
rubriques.txt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:6ab9f70d7f22e54727b878986a55e3ea38f62179caf376c754a0c270e259ca65
3
+ size 3823
test_data.txt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:2df2acf22defcd9b49ff17a19c229b7532151665ad88466dd9031684dd39a697
3
+ size 46038010
train_data.txt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:cbeb132d8c3f07b8b8100aa901ea0c11b000c512902317cefd465dc86d42c23d
3
+ size 294128158
val_data.txt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:8d22e95b90b05f3a14b02e5a429aa7a7f38a3997e8601b177a8f6b989c3663af
3
+ size 46150814