Convert dataset to Parquet

QR-AN.py

@@ -1,162 +0,0 @@
-import json
-import os
-
-import datasets
-from datasets.tasks import TextClassification
-
-
-_CITATION = None
-
-
-_DESCRIPTION = """\
- QR-AN Dataset: a classification dataset on french Parliament debates
- This is a dataset for theme/topic classification, made of questions and answers from https://www2.assemblee-nationale.fr/recherche/resultats_questions.
- It contains 188 unbalanced classes, 80k questions-answers divided into 3 splits: train (60k), val (10k) and test (10k).
-"""
-
-
-_LABELS = [
-    'administration', 'agriculture', 'agroalimentaire', 'aménagement du territoire', 'anciens combattants et victimes de guerre', 
-    'animaux', 'aquaculture et pêche professionnelle', 'architecture', 'archives et bibliothèques', 'armes', 'arts et spectacles', 
-    'associations', 'assurance invalidité décès', 'assurance maladie maternité : généralités', 'assurance maladie maternité : prestations', 
-    'assurances', 'audiovisuel et communication', 'automobiles et cycles', 'avortement', 'banques et établissements financiers', 
-    'bâtiment et travaux publics', 'baux', 'bioéthique', 'bois et forêts', "bourses d'études", 'cérémonies publiques et fêtes légales', 
-    'chambres consulaires', 'chasse et pêche', 'chômage : indemnisation', 'collectivités territoriales', 'commerce et artisanat', 
-    'commerce extérieur', 'communes', 'consommation', 'contributions indirectes', 'coopération intercommunale', 'copropriété', 
-    'corps diplomatique et consulaire', "cours d'eau, étangs et lacs", 'cultes', 'culture', 'déchéances et incapacités', 
-    'déchets, pollution et nuisances', 'décorations, insignes et emblèmes', 'défense', 'démographie', 'départements', 
-    'donations et successions', 'drogue', 'droit pénal', "droits de l'Homme et libertés publiques", 'eau', 'économie sociale', 
-    'éducation physique et sportive', 'élections et référendums', 'élevage', 'emploi', 'énergie et carburants', 'enfants', 
-    'enregistrement et timbre', 'enseignement', 'enseignement : personnel', 'enseignement agricole', 
-    'enseignement maternel et primaire', 'enseignement maternel et primaire : personnel', 'enseignement privé', 
-    'enseignement secondaire', 'enseignement secondaire : personnel', 'enseignement supérieur', 
-    'enseignement supérieur : personnel', 'enseignement technique et professionnel', 
-    'enseignement technique et professionnel : personnel', 'enseignements artistiques', 
-    'entreprises', 'environnement', 'ésotérisme', 'espace', 'établissements de santé', 'État', 
-    'état civil', 'étrangers', 'famille', 'femmes', 'finances publiques', "fonction publique de l'État", 
-    'fonction publique hospitalière', 'fonction publique territoriale', 'fonctionnaires et agents publics',
-    'formation professionnelle', "Français de l'étranger", 'frontaliers', 'gendarmerie', 'gens du voyage', 
-    'grandes écoles', 'handicapés', 'heure légale', 'hôtellerie et restauration', 'impôt de solidarité sur la fortune', 
-    'impôt sur le revenu', 'impôt sur les sociétés', 'impôts et taxes', 'impôts locaux', 'industrie', 'informatique', 
-    'institutions sociales et médico-sociales', 'jeunes', 'jeux et paris', 'justice', 'langue française', 'logement', 
-    'logement : aides et prêts', 'marchés financiers', 'marchés publics', 'matières premières', 'médecines parallèles', 
-    'mer et littoral', 'mines et carrières', "ministères et secrétariats d'État", 'mort', 'moyens de paiement', 'nationalité', 
-    'ordre public', 'organisations internationales', 'outre-mer', "papiers d'identité", 'Parlement', 
-    'partis et mouvements politiques', 'patrimoine culturel', "pensions militaires d'invalidité", 'personnes âgées', 
-    'pharmacie et médicaments', 'plus-values : imposition', 'police', 'politique économique', 'politique extérieure', 
-    'politique sociale', 'politiques communautaires', 'postes', 'préretraites', 'presse et livres', 'prestations familiales', 
-    'produits dangereux', 'professions de santé', 'professions immobilières', 'professions judiciaires et juridiques', 
-    'professions libérales', 'professions sociales', 'propriété', 'propriété intellectuelle', 'publicité', 'rapatriés', 
-    'recherche', 'régions', 'relations internationales', 'retraites : fonctionnaires civils et militaires', 
-    'retraites : généralités', 'retraites : régime agricole', 'retraites : régime général', 'retraites : régimes autonomes et spéciaux', 
-    'risques professionnels', 'saisies et sûretés', 'sang et organes humains', 'santé', 'secteur public', 'sécurité publique', 
-    'sécurité routière', 'sécurité sociale', 'services', 'sociétés', 'sports', 'syndicats', 'système pénitentiaire', 'taxis', 
-    'télécommunications', 'tourisme et loisirs', 'traités et conventions', 'transports', 'transports aériens', 
-    'transports ferroviaires', 'transports par eau', 'transports routiers', 'transports urbains', 'travail', 'TVA', 
-    'Union européenne', 'urbanisme', 'ventes et échanges', 'voirie'
-    ]
-
-
-class QRANConfig(datasets.BuilderConfig):
-    """BuilderConfig for QR-AN."""
-
-    def __init__(self, **kwargs):
-        """BuilderConfig for QR-AN.
-        Args:
-          **kwargs: keyword arguments forwarded to super.
-        """
-        super(QRANConfig, self).__init__(**kwargs)
-
-
-class QRANDataset(datasets.GeneratorBasedBuilder):
-    """QR-AN Dataset: Topic dataset on french Parliament questions-answers."""
-    
-    _DOWNLOAD_URL = "https://huggingface.co/datasets/cassandra-themis/QR-AN/resolve/main/"
-    
-    _TRAIN_FILE = "train_data.txt"
-    _VAL_FILE = "val_data.txt"
-    _TEST_FILE = "test_data.txt"
-    _LABELS_DICT = {label: i for i, label in enumerate(_LABELS)}
-
-    BUILDER_CONFIGS = [
-        QRANConfig(
-            name="qran_answer",
-            version=datasets.Version("1.0.0"),
-            description="QRAN Dataset: A classification task of French Parliament questions-answers",
-        ),
-        QRANConfig(
-            name="qran_question",
-            version=datasets.Version("1.0.0"),
-            description="QRAN Dataset: A classification task of French Parliament questions-answers",
-        ),
-        QRANConfig(
-            name="qran_full",
-            version=datasets.Version("1.0.0"),
-            description="QRAN Dataset: A classification task of French Parliament questions-answers",
-        ),
-        QRANConfig(
-            name="qran_generation",
-            version=datasets.Version("1.0.0"),
-            description="QRAN Dataset: A generation task of French Parliament questions-answers",
-        )
-    ]
-
-    DEFAULT_CONFIG_NAME = "qran_answer"
-
-    def _info(self):
-        if self.config.name == "qran_generation":
-            features = {
-                    "question": datasets.Value("string"),
-                    "answer": datasets.Value("string"),
-                }
-        else:
-            features = {
-                    "text": datasets.Value("string"),
-                    "label": datasets.features.ClassLabel(names=_LABELS),
-                }
-                
-        return datasets.DatasetInfo(
-            description=_DESCRIPTION,
-            features=datasets.Features(features),
-            supervised_keys=None,
-            citation=_CITATION,
-        )
-        
-
-    def _split_generators(self, dl_manager):
-        train_path = dl_manager.download_and_extract(self._TRAIN_FILE)
-        val_path = dl_manager.download_and_extract(self._VAL_FILE)
-        test_path = dl_manager.download_and_extract(self._TEST_FILE)
-        
-        return [
-            datasets.SplitGenerator(
-                name=datasets.Split.TRAIN, gen_kwargs={"filepath": train_path}
-            ),
-            datasets.SplitGenerator(
-                name=datasets.Split.VALIDATION, gen_kwargs={"filepath": val_path}
-            ),
-            datasets.SplitGenerator(
-                name=datasets.Split.TEST, gen_kwargs={"filepath": test_path}
-            ),
-        ]
-    
-    def _generate_examples(self, filepath):
-        """Generate QRAN examples."""
-        with open(filepath, encoding="utf-8") as f:
-            for id_, row in enumerate(f):
-                data = json.loads(row)
-                answer, question = data["answer"], data["question"]
-
-                label = self._LABELS_DICT[data["label_name"]]
-
-                if self.config.name == "qran_generation":
-                    yield id_, {"question": question, "answer": answer}
-                else:
-                    if self.config.name == "qran_answer":
-                        text = answer
-                    elif self.config.name == "qran_question":
-                        text = question
-                    else:
-                        text = question + " " + answer
-                    yield id_, {"text": text, "label": label}
-                

README.md

@@ -11,6 +11,683 @@ task_ids:
 - topic-classification
 tags:
 - conditional-text-generation
+dataset_info:
+- config_name: qran_answer
+  features:
+  - name: text
+    dtype: string
+  - name: label
+    dtype:
+      class_label:
+        names:
+          '0': administration
+          '1': agriculture
+          '2': agroalimentaire
+          '3': aménagement du territoire
+          '4': anciens combattants et victimes de guerre
+          '5': animaux
+          '6': aquaculture et pêche professionnelle
+          '7': architecture
+          '8': archives et bibliothèques
+          '9': armes
+          '10': arts et spectacles
+          '11': associations
+          '12': assurance invalidité décès
+          '13': 'assurance maladie maternité : généralités'
+          '14': 'assurance maladie maternité : prestations'
+          '15': assurances
+          '16': audiovisuel et communication
+          '17': automobiles et cycles
+          '18': avortement
+          '19': banques et établissements financiers
+          '20': bâtiment et travaux publics
+          '21': baux
+          '22': bioéthique
+          '23': bois et forêts
+          '24': bourses d'études
+          '25': cérémonies publiques et fêtes légales
+          '26': chambres consulaires
+          '27': chasse et pêche
+          '28': 'chômage : indemnisation'
+          '29': collectivités territoriales
+          '30': commerce et artisanat
+          '31': commerce extérieur
+          '32': communes
+          '33': consommation
+          '34': contributions indirectes
+          '35': coopération intercommunale
+          '36': copropriété
+          '37': corps diplomatique et consulaire
+          '38': cours d'eau, étangs et lacs
+          '39': cultes
+          '40': culture
+          '41': déchéances et incapacités
+          '42': déchets, pollution et nuisances
+          '43': décorations, insignes et emblèmes
+          '44': défense
+          '45': démographie
+          '46': départements
+          '47': donations et successions
+          '48': drogue
+          '49': droit pénal
+          '50': droits de l'Homme et libertés publiques
+          '51': eau
+          '52': économie sociale
+          '53': éducation physique et sportive
+          '54': élections et référendums
+          '55': élevage
+          '56': emploi
+          '57': énergie et carburants
+          '58': enfants
+          '59': enregistrement et timbre
+          '60': enseignement
+          '61': 'enseignement : personnel'
+          '62': enseignement agricole
+          '63': enseignement maternel et primaire
+          '64': 'enseignement maternel et primaire : personnel'
+          '65': enseignement privé
+          '66': enseignement secondaire
+          '67': 'enseignement secondaire : personnel'
+          '68': enseignement supérieur
+          '69': 'enseignement supérieur : personnel'
+          '70': enseignement technique et professionnel
+          '71': 'enseignement technique et professionnel : personnel'
+          '72': enseignements artistiques
+          '73': entreprises
+          '74': environnement
+          '75': ésotérisme
+          '76': espace
+          '77': établissements de santé
+          '78': État
+          '79': état civil
+          '80': étrangers
+          '81': famille
+          '82': femmes
+          '83': finances publiques
+          '84': fonction publique de l'État
+          '85': fonction publique hospitalière
+          '86': fonction publique territoriale
+          '87': fonctionnaires et agents publics
+          '88': formation professionnelle
+          '89': Français de l'étranger
+          '90': frontaliers
+          '91': gendarmerie
+          '92': gens du voyage
+          '93': grandes écoles
+          '94': handicapés
+          '95': heure légale
+          '96': hôtellerie et restauration
+          '97': impôt de solidarité sur la fortune
+          '98': impôt sur le revenu
+          '99': impôt sur les sociétés
+          '100': impôts et taxes
+          '101': impôts locaux
+          '102': industrie
+          '103': informatique
+          '104': institutions sociales et médico-sociales
+          '105': jeunes
+          '106': jeux et paris
+          '107': justice
+          '108': langue française
+          '109': logement
+          '110': 'logement : aides et prêts'
+          '111': marchés financiers
+          '112': marchés publics
+          '113': matières premières
+          '114': médecines parallèles
+          '115': mer et littoral
+          '116': mines et carrières
+          '117': ministères et secrétariats d'État
+          '118': mort
+          '119': moyens de paiement
+          '120': nationalité
+          '121': ordre public
+          '122': organisations internationales
+          '123': outre-mer
+          '124': papiers d'identité
+          '125': Parlement
+          '126': partis et mouvements politiques
+          '127': patrimoine culturel
+          '128': pensions militaires d'invalidité
+          '129': personnes âgées
+          '130': pharmacie et médicaments
+          '131': 'plus-values : imposition'
+          '132': police
+          '133': politique économique
+          '134': politique extérieure
+          '135': politique sociale
+          '136': politiques communautaires
+          '137': postes
+          '138': préretraites
+          '139': presse et livres
+          '140': prestations familiales
+          '141': produits dangereux
+          '142': professions de santé
+          '143': professions immobilières
+          '144': professions judiciaires et juridiques
+          '145': professions libérales
+          '146': professions sociales
+          '147': propriété
+          '148': propriété intellectuelle
+          '149': publicité
+          '150': rapatriés
+          '151': recherche
+          '152': régions
+          '153': relations internationales
+          '154': 'retraites : fonctionnaires civils et militaires'
+          '155': 'retraites : généralités'
+          '156': 'retraites : régime agricole'
+          '157': 'retraites : régime général'
+          '158': 'retraites : régimes autonomes et spéciaux'
+          '159': risques professionnels
+          '160': saisies et sûretés
+          '161': sang et organes humains
+          '162': santé
+          '163': secteur public
+          '164': sécurité publique
+          '165': sécurité routière
+          '166': sécurité sociale
+          '167': services
+          '168': sociétés
+          '169': sports
+          '170': syndicats
+          '171': système pénitentiaire
+          '172': taxis
+          '173': télécommunications
+          '174': tourisme et loisirs
+          '175': traités et conventions
+          '176': transports
+          '177': transports aériens
+          '178': transports ferroviaires
+          '179': transports par eau
+          '180': transports routiers
+          '181': transports urbains
+          '182': travail
+          '183': TVA
+          '184': Union européenne
+          '185': urbanisme
+          '186': ventes et échanges
+          '187': voirie
+  splits:
+  - name: train
+    num_bytes: 183336142
+    num_examples: 63683
+  - name: validation
+    num_bytes: 28746666
+    num_examples: 10000
+  - name: test
+    num_bytes: 28694899
+    num_examples: 10000
+  download_size: 119222760
+  dataset_size: 240777707
+- config_name: qran_full
+  features:
+  - name: text
+    dtype: string
+  - name: label
+    dtype:
+      class_label:
+        names:
+          '0': administration
+          '1': agriculture
+          '2': agroalimentaire
+          '3': aménagement du territoire
+          '4': anciens combattants et victimes de guerre
+          '5': animaux
+          '6': aquaculture et pêche professionnelle
+          '7': architecture
+          '8': archives et bibliothèques
+          '9': armes
+          '10': arts et spectacles
+          '11': associations
+          '12': assurance invalidité décès
+          '13': 'assurance maladie maternité : généralités'
+          '14': 'assurance maladie maternité : prestations'
+          '15': assurances
+          '16': audiovisuel et communication
+          '17': automobiles et cycles
+          '18': avortement
+          '19': banques et établissements financiers
+          '20': bâtiment et travaux publics
+          '21': baux
+          '22': bioéthique
+          '23': bois et forêts
+          '24': bourses d'études
+          '25': cérémonies publiques et fêtes légales
+          '26': chambres consulaires
+          '27': chasse et pêche
+          '28': 'chômage : indemnisation'
+          '29': collectivités territoriales
+          '30': commerce et artisanat
+          '31': commerce extérieur
+          '32': communes
+          '33': consommation
+          '34': contributions indirectes
+          '35': coopération intercommunale
+          '36': copropriété
+          '37': corps diplomatique et consulaire
+          '38': cours d'eau, étangs et lacs
+          '39': cultes
+          '40': culture
+          '41': déchéances et incapacités
+          '42': déchets, pollution et nuisances
+          '43': décorations, insignes et emblèmes
+          '44': défense
+          '45': démographie
+          '46': départements
+          '47': donations et successions
+          '48': drogue
+          '49': droit pénal
+          '50': droits de l'Homme et libertés publiques
+          '51': eau
+          '52': économie sociale
+          '53': éducation physique et sportive
+          '54': élections et référendums
+          '55': élevage
+          '56': emploi
+          '57': énergie et carburants
+          '58': enfants
+          '59': enregistrement et timbre
+          '60': enseignement
+          '61': 'enseignement : personnel'
+          '62': enseignement agricole
+          '63': enseignement maternel et primaire
+          '64': 'enseignement maternel et primaire : personnel'
+          '65': enseignement privé
+          '66': enseignement secondaire
+          '67': 'enseignement secondaire : personnel'
+          '68': enseignement supérieur
+          '69': 'enseignement supérieur : personnel'
+          '70': enseignement technique et professionnel
+          '71': 'enseignement technique et professionnel : personnel'
+          '72': enseignements artistiques
+          '73': entreprises
+          '74': environnement
+          '75': ésotérisme
+          '76': espace
+          '77': établissements de santé
+          '78': État
+          '79': état civil
+          '80': étrangers
+          '81': famille
+          '82': femmes
+          '83': finances publiques
+          '84': fonction publique de l'État
+          '85': fonction publique hospitalière
+          '86': fonction publique territoriale
+          '87': fonctionnaires et agents publics
+          '88': formation professionnelle
+          '89': Français de l'étranger
+          '90': frontaliers
+          '91': gendarmerie
+          '92': gens du voyage
+          '93': grandes écoles
+          '94': handicapés
+          '95': heure légale
+          '96': hôtellerie et restauration
+          '97': impôt de solidarité sur la fortune
+          '98': impôt sur le revenu
+          '99': impôt sur les sociétés
+          '100': impôts et taxes
+          '101': impôts locaux
+          '102': industrie
+          '103': informatique
+          '104': institutions sociales et médico-sociales
+          '105': jeunes
+          '106': jeux et paris
+          '107': justice
+          '108': langue française
+          '109': logement
+          '110': 'logement : aides et prêts'
+          '111': marchés financiers
+          '112': marchés publics
+          '113': matières premières
+          '114': médecines parallèles
+          '115': mer et littoral
+          '116': mines et carrières
+          '117': ministères et secrétariats d'État
+          '118': mort
+          '119': moyens de paiement
+          '120': nationalité
+          '121': ordre public
+          '122': organisations internationales
+          '123': outre-mer
+          '124': papiers d'identité
+          '125': Parlement
+          '126': partis et mouvements politiques
+          '127': patrimoine culturel
+          '128': pensions militaires d'invalidité
+          '129': personnes âgées
+          '130': pharmacie et médicaments
+          '131': 'plus-values : imposition'
+          '132': police
+          '133': politique économique
+          '134': politique extérieure
+          '135': politique sociale
+          '136': politiques communautaires
+          '137': postes
+          '138': préretraites
+          '139': presse et livres
+          '140': prestations familiales
+          '141': produits dangereux
+          '142': professions de santé
+          '143': professions immobilières
+          '144': professions judiciaires et juridiques
+          '145': professions libérales
+          '146': professions sociales
+          '147': propriété
+          '148': propriété intellectuelle
+          '149': publicité
+          '150': rapatriés
+          '151': recherche
+          '152': régions
+          '153': relations internationales
+          '154': 'retraites : fonctionnaires civils et militaires'
+          '155': 'retraites : généralités'
+          '156': 'retraites : régime agricole'
+          '157': 'retraites : régime général'
+          '158': 'retraites : régimes autonomes et spéciaux'
+          '159': risques professionnels
+          '160': saisies et sûretés
+          '161': sang et organes humains
+          '162': santé
+          '163': secteur public
+          '164': sécurité publique
+          '165': sécurité routière
+          '166': sécurité sociale
+          '167': services
+          '168': sociétés
+          '169': sports
+          '170': syndicats
+          '171': système pénitentiaire
+          '172': taxis
+          '173': télécommunications
+          '174': tourisme et loisirs
+          '175': traités et conventions
+          '176': transports
+          '177': transports aériens
+          '178': transports ferroviaires
+          '179': transports par eau
+          '180': transports routiers
+          '181': transports urbains
+          '182': travail
+          '183': TVA
+          '184': Union européenne
+          '185': urbanisme
+          '186': ventes et échanges
+          '187': voirie
+  splits:
+  - name: train
+    num_bytes: 257293229
+    num_examples: 63683
+  - name: validation
+    num_bytes: 40382643
+    num_examples: 10000
+  - name: test
+    num_bytes: 40268140
+    num_examples: 10000
+  download_size: 177919076
+  dataset_size: 337944012
+- config_name: qran_generation
+  features:
+  - name: question
+    dtype: string
+  - name: answer
+    dtype: string
+  splits:
+  - name: train
+    num_bytes: 256974814
+    num_examples: 63683
+  - name: validation
+    num_bytes: 40332643
+    num_examples: 10000
+  - name: test
+    num_bytes: 40218140
+    num_examples: 10000
+  download_size: 171963615
+  dataset_size: 337525597
+- config_name: qran_question
+  features:
+  - name: text
+    dtype: string
+  - name: label
+    dtype:
+      class_label:
+        names:
+          '0': administration
+          '1': agriculture
+          '2': agroalimentaire
+          '3': aménagement du territoire
+          '4': anciens combattants et victimes de guerre
+          '5': animaux
+          '6': aquaculture et pêche professionnelle
+          '7': architecture
+          '8': archives et bibliothèques
+          '9': armes
+          '10': arts et spectacles
+          '11': associations
+          '12': assurance invalidité décès
+          '13': 'assurance maladie maternité : généralités'
+          '14': 'assurance maladie maternité : prestations'
+          '15': assurances
+          '16': audiovisuel et communication
+          '17': automobiles et cycles
+          '18': avortement
+          '19': banques et établissements financiers
+          '20': bâtiment et travaux publics
+          '21': baux
+          '22': bioéthique
+          '23': bois et forêts
+          '24': bourses d'études
+          '25': cérémonies publiques et fêtes légales
+          '26': chambres consulaires
+          '27': chasse et pêche
+          '28': 'chômage : indemnisation'
+          '29': collectivités territoriales
+          '30': commerce et artisanat
+          '31': commerce extérieur
+          '32': communes
+          '33': consommation
+          '34': contributions indirectes
+          '35': coopération intercommunale
+          '36': copropriété
+          '37': corps diplomatique et consulaire
+          '38': cours d'eau, étangs et lacs
+          '39': cultes
+          '40': culture
+          '41': déchéances et incapacités
+          '42': déchets, pollution et nuisances
+          '43': décorations, insignes et emblèmes
+          '44': défense
+          '45': démographie
+          '46': départements
+          '47': donations et successions
+          '48': drogue
+          '49': droit pénal
+          '50': droits de l'Homme et libertés publiques
+          '51': eau
+          '52': économie sociale
+          '53': éducation physique et sportive
+          '54': élections et référendums
+          '55': élevage
+          '56': emploi
+          '57': énergie et carburants
+          '58': enfants
+          '59': enregistrement et timbre
+          '60': enseignement
+          '61': 'enseignement : personnel'
+          '62': enseignement agricole
+          '63': enseignement maternel et primaire
+          '64': 'enseignement maternel et primaire : personnel'
+          '65': enseignement privé
+          '66': enseignement secondaire
+          '67': 'enseignement secondaire : personnel'
+          '68': enseignement supérieur
+          '69': 'enseignement supérieur : personnel'
+          '70': enseignement technique et professionnel
+          '71': 'enseignement technique et professionnel : personnel'
+          '72': enseignements artistiques
+          '73': entreprises
+          '74': environnement
+          '75': ésotérisme
+          '76': espace
+          '77': établissements de santé
+          '78': État
+          '79': état civil
+          '80': étrangers
+          '81': famille
+          '82': femmes
+          '83': finances publiques
+          '84': fonction publique de l'État
+          '85': fonction publique hospitalière
+          '86': fonction publique territoriale
+          '87': fonctionnaires et agents publics
+          '88': formation professionnelle
+          '89': Français de l'étranger
+          '90': frontaliers
+          '91': gendarmerie
+          '92': gens du voyage
+          '93': grandes écoles
+          '94': handicapés
+          '95': heure légale
+          '96': hôtellerie et restauration
+          '97': impôt de solidarité sur la fortune
+          '98': impôt sur le revenu
+          '99': impôt sur les sociétés
+          '100': impôts et taxes
+          '101': impôts locaux
+          '102': industrie
+          '103': informatique
+          '104': institutions sociales et médico-sociales
+          '105': jeunes
+          '106': jeux et paris
+          '107': justice
+          '108': langue française
+          '109': logement
+          '110': 'logement : aides et prêts'
+          '111': marchés financiers
+          '112': marchés publics
+          '113': matières premières
+          '114': médecines parallèles
+          '115': mer et littoral
+          '116': mines et carrières
+          '117': ministères et secrétariats d'État
+          '118': mort
+          '119': moyens de paiement
+          '120': nationalité
+          '121': ordre public
+          '122': organisations internationales
+          '123': outre-mer
+          '124': papiers d'identité
+          '125': Parlement
+          '126': partis et mouvements politiques
+          '127': patrimoine culturel
+          '128': pensions militaires d'invalidité
+          '129': personnes âgées
+          '130': pharmacie et médicaments
+          '131': 'plus-values : imposition'
+          '132': police
+          '133': politique économique
+          '134': politique extérieure
+          '135': politique sociale
+          '136': politiques communautaires
+          '137': postes
+          '138': préretraites
+          '139': presse et livres
+          '140': prestations familiales
+          '141': produits dangereux
+          '142': professions de santé
+          '143': professions immobilières
+          '144': professions judiciaires et juridiques
+          '145': professions libérales
+          '146': professions sociales
+          '147': propriété
+          '148': propriété intellectuelle
+          '149': publicité
+          '150': rapatriés
+          '151': recherche
+          '152': régions
+          '153': relations internationales
+          '154': 'retraites : fonctionnaires civils et militaires'
+          '155': 'retraites : généralités'
+          '156': 'retraites : régime agricole'
+          '157': 'retraites : régime général'
+          '158': 'retraites : régimes autonomes et spéciaux'
+          '159': risques professionnels
+          '160': saisies et sûretés
+          '161': sang et organes humains
+          '162': santé
+          '163': secteur public
+          '164': sécurité publique
+          '165': sécurité routière
+          '166': sécurité sociale
+          '167': services
+          '168': sociétés
+          '169': sports
+          '170': syndicats
+          '171': système pénitentiaire
+          '172': taxis
+          '173': télécommunications
+          '174': tourisme et loisirs
+          '175': traités et conventions
+          '176': transports
+          '177': transports aériens
+          '178': transports ferroviaires
+          '179': transports par eau
+          '180': transports routiers
+          '181': transports urbains
+          '182': travail
+          '183': TVA
+          '184': Union européenne
+          '185': urbanisme
+          '186': ventes et échanges
+          '187': voirie
+  splits:
+  - name: train
+    num_bytes: 74657600
+    num_examples: 63683
+  - name: validation
+    num_bytes: 11745977
+    num_examples: 10000
+  - name: test
+    num_bytes: 11683241
+    num_examples: 10000
+  download_size: 53133828
+  dataset_size: 98086818
+configs:
+- config_name: qran_answer
+  data_files:
+  - split: train
+    path: qran_answer/train-*
+  - split: validation
+    path: qran_answer/validation-*
+  - split: test
+    path: qran_answer/test-*
+  default: true
+- config_name: qran_full
+  data_files:
+  - split: train
+    path: qran_full/train-*
+  - split: validation
+    path: qran_full/validation-*
+  - split: test
+    path: qran_full/test-*
+- config_name: qran_generation
+  data_files:
+  - split: train
+    path: qran_generation/train-*
+  - split: validation
+    path: qran_generation/validation-*
+  - split: test
+    path: qran_generation/test-*
+- config_name: qran_question
+  data_files:
+  - split: train
+    path: qran_question/train-*
+  - split: validation
+    path: qran_question/validation-*
+  - split: test
+    path: qran_question/test-*
 ---
 
 **QR-AN Dataset: a classification and generation dataset of french Parliament questions-answers.** 

test_data.txt → qran_answer/test-00000-of-00001.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:2df2acf22defcd9b49ff17a19c229b7532151665ad88466dd9031684dd39a697
-size 46038010
+oid sha256:34c84f3b9d118005ce326e383a6103cf02b5fbb878785c40b5952a742eb60617
+size 14214461

val_data.txt → qran_answer/train-00000-of-00001.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:8d22e95b90b05f3a14b02e5a429aa7a7f38a3997e8601b177a8f6b989c3663af
-size 46150814
+oid sha256:b05fec4a581e8c6a40c6fcde2f62427b982b3735d2a5eabd7de0afef0742a43b
+size 90703864

train_data.txt → qran_answer/validation-00000-of-00001.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:cbeb132d8c3f07b8b8100aa901ea0c11b000c512902317cefd465dc86d42c23d
-size 294128158
+oid sha256:138e10c89375d318736f3281ef1ed95edaba4aca60309c5f000a7b002ac60ce9
+size 14304435

qran_full/test-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ffe36b80ba0fa14407bbe3b49d8ee28825dbe04a36171710dc2f5ee6c5542944
+size 21190574

qran_full/train-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:043c770fbe972ad1cc8c4aa6e4f19708ad039c51adb5566e2d9bf56f62ce9693
+size 135403075

qran_full/validation-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:4a7839a9d205a24e550601ba8fe2908e2bd1e6f32dbf2a706994760608c95f36
+size 21325427

qran_generation/test-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6a1bbdea14e3bc3c403874efebb336e0cde752891841b93579809106dc54e78e
+size 20497143

qran_generation/train-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6037ade57d78d1dc78921b0ab78d5aea74b0168fbb4c8bf8816c1f4c56214152
+size 130854668

qran_generation/validation-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:7f508047abf61eeccc4ee527a4def373b9b90755453553563b61516c1b08267e
+size 20611804

qran_question/test-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:45d6d04efa2e14ff08c5a6771c294933ec1befbc4b0992c9104d1232070f13e4
+size 6344844

qran_question/train-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2964e042f030520ca092dc573958772e6dc01ed596d9a608c2cd2e345196ee06
+size 40419621

qran_question/validation-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1afc155581d6d39809ee0a16d2dea3109fc5c8763abf3589f098bcd89621b2fa
+size 6369363