Dataset Card for LLeQA

Dataset Summary

The Long-form Legal Question Answering (LLeQA) dataset is a French-native expert-annotated dataset for studying legal question answering. LLeQA builds upon BSARD, an information retrieval dataset comprising 1,108 legal questions labeled with relevant provisions from a corpus of 22,633 Belgian law articles, and enhance it in two ways:

1. We introduce 760 new legal questions (+69%) and 5,308 additional statutory articles (+23%).
2. We supplement the data with new types of annotations, including an exhaustive taxonomy for the question, the jurisdictions concerned, the exact paragraph-level references within the relevant articles, and a comprehensive answer written by seasoned legal professionals.

Owing to the rich variety of its annotations, LLeQA serves as a multifaceted resource that extends its utility beyond legal question answering and has the potential to catalyze significant progress in various legal tasks, such as legal inquiry classification, legal topic modeling, and legal information retrieval.

Supported Tasks and Leaderboards

• qestion-answering: The dataset can be used to train a model for long-form question-answering (LFQA) in the legal domain, which consists in comprehensively answering a short legal question in a free-form based on a given context of one or several statutory articles. Success on this task is typically measured by achieving high ROUGE or METEOR scores, even though these metrics are not always correlated with human judgment.
• text-retrieval: The dataset can be used to train a model for information retrieval (IR) in the legal domain, which consists in retrieving relevant statutory articles based on a given legal question. Success on this task is typically measured by achieving high recall and precision scores at various cut-offs.
• text-classification: The dataset can be used to train a model for text classification in the legal domain, which consists in classifying a legal question into a predefined set of topics. Success on this task is typically measured by achieving high accuracy scores.

Languages

The text in the dataset is in French, as spoken in Wallonia and Brussels-Capital region. The associated BCP-47 code is fr-BE.

Dataset Structure

Data Instances

A question sample typically comprises a unique identifier (int), the question itself (str), the regions concerned (List[str]), related topics (List[str]), the IDs of the relevant articles from the knowledge corpus (List[int]), the exact paragraphs within those articles that are relevant to the question (List[str]), and a comprehensive expert-written answer (str). Below is an example of such sample from the LLeQA test set:

{
    "id":696,
    "question":"Je souhaite divorcer pour cause de désunion irrémédiable. Puis-je fixer une limite dans le temps pour la pension alimentaire ?",
    "regions":["Région wallonne", "Région de Bruxelles-Capitale", "Région flamande"],
    "topics":["Famille, Obligations alimentaires, Les pensions alimentaires (entre époux/ex-époux), Pensions alimentaires dans le cadre d'une procédure de divorce, Procédure de divorce pour cause de désunion irrémédiable"],
    "article_ids":[3604],
    "paragraph_ids":["3604§4", "3604§10"],
    "answer":"Oui, c'est le juge qui fixe cette limite dans le jugement de divorce. En principe, la durée de la pension alimentaire après divorce est limitée au maximum à la durée du mariage. Mais le juge peut la fixer pour une durée plus courte. Il décide toujours en fonction de la situation concrète des ex-conjoints. A l’expiration de ce délai, le juge peut prolonger le paiement de la pension alimentaire. Celui qui reçoit la pension alimentaire doit prouver qu'à cause de circonstances exceptionnelles et pour des raisons indépendantes de sa volonté, il est toujours dans un état de besoin. L'obligation de payer la pension alimentaire prend également fin si : celui qui reçoit la pension alimentaire se remarie ou fait une déclaration de cohabitation légale. Dans ce cas, il perd automatiquement son droit à la pension alimentaire après divorce, sauf si le jugement de divorce prévoit autre chose ; celui qui reçoit la pension alimentaire vit maritalement avec une autre personne. Dans ce cas, le juge peut décider de mettre fin à la pension alimentaire ; celui qui reçoit la pension alimentaire décède. Dans ce cas, le paiement de la pension alimentaire prend automatiquement fin.",
}

An article sample typically contains a unique identifier (int), a legislative reference (str), the authority that issued the article (str), a description resulting from the concatenated headings of the sections the article belong to (str), the individual headings of these sections (str), the article number in the statute (str), the full content of the article (str), and the content of its individual paragraphs (Dict[str]). Below is an example of such sample from the knwoledge corpus:

{
    "id":3604,
    "reference":"Art. 301, Code civil (Livre I, Titre VI, Chapitre IV)",
    "authority":"federale",
    "description":"Des personnes, Du divorce, Des effets du divorce",
    "article_no":"301",
    "code":"Code civil",
    "book":"Des personnes",
    "part":null,
    "act":"Du divorce",
    "chapter":"Des effets du divorce",
    "section":null,
    "subsection":null,
    "article":"§ 1er. Les époux peuvent convenir à tout moment de la pension alimentaire éventuelle, du montant de celle-ci et des modalités selon lesquelles le montant convenu pourrait être revu.§ 2. A défaut de la convention visée au § 1er, le tribunal de la famillepeut, dans le jugement prononçant le divorce ou lors d'une décision ultérieure, accorder, à la demande de l'époux dans le besoin, une pension alimentaire à charge de l'autre époux.Le tribunal peut refuser de faire droit à la demande de pension si le défendeur prouve que le demandeur a commis une faute grave ayant rendu impossible la poursuite de la vie commune.En aucun cas, la pension alimentaire n'est accordée au conjoint reconnu coupable d'un fait visé aux articles 375, 398 à 400, 402, 403 ou 405 du Code pénal, commis contre la personne du défendeur, ou d'une tentative de commettre un fait visé aux articles 375, 393, 394 ou 397 du même Code contre cette même personne.Par dérogation à l'article 4 du titre préliminaire du Code de procédure pénale, le juge peut, en attendant que la décision sur l'action publique soit coulée en force de chose jugée, allouer au demandeur une pension provisionnelle, en tenant compte de toutes les circonstances de la cause. Il peut subordonner l'octroi de cette pension provisionnelle à la constitution d'une garantie qu'il détermine et dont il fixe les modalités.§ 3. Le tribunal fixe le montant de la pension alimentaire qui doit couvrir au moins l'état de besoin du bénéficiaire.Il tient compte des revenus et possibilités des conjoints et de la dégradation significative de la situation économique du bénéficiaire. Pour apprécier cette dégradation, le juge se fonde notamment sur la durée du mariage, l'âge des parties, leur comportement durant le mariage quant à l'organisation de leurs besoins, la charge des enfants pendant la vie commune ou après celle-ci. Le juge peut décider le cas échéant que la pension sera dégressive et déterminer dans quelle mesure elle le sera.La pension alimentaire ne peut excéder le tiers des revenus du conjoint débiteur.§ 4. La durée de la pension ne peut être supérieure à celle du mariage.En cas de circonstances exceptionnelles, si le bénéficiaire démontre qu'à l'expiration du délai visé à l'alinéa 1er, il reste, pour des raisons indépendantes de sa volonté, dans un état de besoin, le tribunal peut prolonger le délai. Dans ce cas, le montant de la pension correspond au montant nécessaire pour couvrir l'état de besoin du bénéficiaire.§ 5. Si le défendeur prouve que l'état de besoin du demandeur résulte d'une décision prise unilatéralement par celui-ci, et sans que les besoins de la famille aient justifié ce choix, il peut être dispensé de payer la pension ou n'être tenu que de payer une pension réduite.§ 6. Le tribunal qui accorde la pension constate que celle-ci est adaptée de plein droit aux fluctuations de l'indice des prix à la consommation.Le montant de base de la pension correspond à l'indice des prix à la consommation du mois au cours duquel le jugement ou l'arrêt prononçant le divorce est coulé en force de chose jugée, à moins que le tribunal n'en décide autrement. Tous les douze mois, le montant de la pension est adapté en fonction de la hausse ou de la baisse de l'indice des prix à la consommation du mois correspondant.Ces modifications sont appliquées à la pension dès l'échéance qui suit la publication au Moniteur belge de l'indice nouveau à prendre en considération.Le tribunal peut, dans certains cas, appliquer un autre système d'adaptation de la pension au coût de la vie.§ 7. Sauf si les parties ont convenu expressément le contraire, le tribunal peut, ultérieurement, à la demande d'une des parties, augmenter, réduire ou supprimer la pension, si, à la suite de circonstances nouvelles et indépendantes de la volonté des parties, son montant n'est plus adapté.De même, si à la suite de la dissolution du mariage, la liquidation-partage du patrimoine commun ou de l'indivision ayant existé entre les époux entraîne une modification de leur situation financière qui justifie une adaptation de la pension alimentaire ayant fait l'objet d'un jugement ou d'une convention intervenus avant l'établissement de comptes de la liquidation, le tribunal peut adapter la pension, 2.§ 8. La pension peut à tout moment être remplacée, de l'accord des parties, par un capital homologué par le tribunal. A la demande du débiteur de la pension, le tribunal peut également accorder à tout moment la capitalisation.§ 9. Les époux ne peuvent pas renoncer aux droits à la pension alimentaire avant la dissolution du mariage.Ils peuvent néanmoins transiger, en cours de procédure, sur le montant de cette pension 5.§ 10. La pension n'est plus due au décès du débiteur, mais le bénéficiaire peut demander des aliments à charge de la succession aux conditions prévues à l'article 205bis, § 1er et §§ 3 à 6 .La pension prend, en toute hypothèse, définitivement fin en cas de remariage du bénéficiaire de la pension ou au moment où ce dernier fait une déclaration de cohabitation légale, sauf convention contraire des parties.Le juge peut mettre fin à la pension lorsque le bénéficiaire vit maritalement avec une autre personne.§ 11. Le tribunal peut décider qu'en cas de défaut d'exécution par le débiteur de son obligation de paiement, le bénéficiaire de la pension sera autorisé à percevoir les revenus de celui-ci ou ceux des biens qu'il administre en vertu de leur régime matrimonial, ainsi que toutes autres sommes qui lui sont dues par des tiers.Cette décision est opposable à tout tiers débiteur, actuel ou futur, sur la notification qui leur en est faite par le greffier à la requête du demandeur.§ 12. 1.",
    "paragraphs":{
      "1":"§ 1er. Les époux peuvent convenir à tout moment de la pension alimentaire éventuelle, du montant de celle-ci et des modalités selon lesquelles le montant convenu pourrait être revu",
      "2":"§ 2. A défaut de la convention visée au § 1er, le tribunal de la famillepeut, dans le jugement prononçant le divorce ou lors d'une décision ultérieure, accorder, à la demande de l'époux dans le besoin, une pension alimentaire à charge de l'autre époux.Le tribunal peut refuser de faire droit à la demande de pension si le défendeur prouve que le demandeur a commis une faute grave ayant rendu impossible la poursuite de la vie commune.En aucun cas, la pension alimentaire n'est accordée au conjoint reconnu coupable d'un fait visé aux articles 375, 398 à 400, 402, 403 ou 405 du Code pénal, commis contre la personne du défendeur, ou d'une tentative de commettre un fait visé aux articles 375, 393, 394 ou 397 du même Code contre cette même personne.Par dérogation à l'article 4 du titre préliminaire du Code de procédure pénale, le juge peut, en attendant que la décision sur l'action publique soit coulée en force de chose jugée, allouer au demandeur une pension provisionnelle, en tenant compte de toutes les circonstances de la cause. Il peut subordonner l'octroi de cette pension provisionnelle à la constitution d'une garantie qu'il détermine et dont il fixe les modalités",
      "3":"§ 3. Le tribunal fixe le montant de la pension alimentaire qui doit couvrir au moins l'état de besoin du bénéficiaire.Il tient compte des revenus et possibilités des conjoints et de la dégradation significative de la situation économique du bénéficiaire. Pour apprécier cette dégradation, le juge se fonde notamment sur la durée du mariage, l'âge des parties, leur comportement durant le mariage quant à l'organisation de leurs besoins, la charge des enfants pendant la vie commune ou après celle-ci. Le juge peut décider le cas échéant que la pension sera dégressive et déterminer dans quelle mesure elle le sera.La pension alimentaire ne peut excéder le tiers des revenus du conjoint débiteur",
      "4":"§ 4. La durée de la pension ne peut être supérieure à celle du mariage.En cas de circonstances exceptionnelles, si le bénéficiaire démontre qu'à l'expiration du délai visé à l'alinéa 1er, il reste, pour des raisons indépendantes de sa volonté, dans un état de besoin, le tribunal peut prolonger le délai. Dans ce cas, le montant de la pension correspond au montant nécessaire pour couvrir l'état de besoin du bénéficiaire",
      "5":"§ 5. Si le défendeur prouve que l'état de besoin du demandeur résulte d'une décision prise unilatéralement par celui-ci, et sans que les besoins de la famille aient justifié ce choix, il peut être dispensé de payer la pension ou n'être tenu que de payer une pension réduite",
      "6":"§ 6. Le tribunal qui accorde la pension constate que celle-ci est adaptée de plein droit aux fluctuations de l'indice des prix à la consommation.Le montant de base de la pension correspond à l'indice des prix à la consommation du mois au cours duquel le jugement ou l'arrêt prononçant le divorce est coulé en force de chose jugée, à moins que le tribunal n'en décide autrement. Tous les douze mois, le montant de la pension est adapté en fonction de la hausse ou de la baisse de l'indice des prix à la consommation du mois correspondant.Ces modifications sont appliquées à la pension dès l'échéance qui suit la publication au Moniteur belge de l'indice nouveau à prendre en considération.Le tribunal peut, dans certains cas, appliquer un autre système d'adaptation de la pension au coût de la vie",
      "7":"§ 7. Sauf si les parties ont convenu expressément le contraire, le tribunal peut, ultérieurement, à la demande d'une des parties, augmenter, réduire ou supprimer la pension, si, à la suite de circonstances nouvelles et indépendantes de la volonté des parties, son montant n'est plus adapté.De même, si à la suite de la dissolution du mariage, la liquidation-partage du patrimoine commun ou de l'indivision ayant existé entre les époux entraîne une modification de leur situation financière qui justifie une adaptation de la pension alimentaire ayant fait l'objet d'un jugement ou d'une convention intervenus avant l'établissement de comptes de la liquidation, le tribunal peut adapter la pension, 2",
      "8":"§ 8. La pension peut à tout moment être remplacée, de l'accord des parties, par un capital homologué par le tribunal. A la demande du débiteur de la pension, le tribunal peut également accorder à tout moment la capitalisation",
      "9":"§ 9. Les époux ne peuvent pas renoncer aux droits à la pension alimentaire avant la dissolution du mariage.Ils peuvent néanmoins transiger, en cours de procédure, sur le montant de cette pension 5",
      "10":"§ 10. La pension n'est plus due au décès du débiteur, mais le bénéficiaire peut demander des aliments à charge de la succession aux conditions prévues à l'article 205bis, § 1er et §§ 3 à 6 .La pension prend, en toute hypothèse, définitivement fin en cas de remariage du bénéficiaire de la pension ou au moment où ce dernier fait une déclaration de cohabitation légale, sauf convention contraire des parties.Le juge peut mettre fin à la pension lorsque le bénéficiaire vit maritalement avec une autre personne",
      "11":"§ 11. Le tribunal peut décider qu'en cas de défaut d'exécution par le débiteur de son obligation de paiement, le bénéficiaire de la pension sera autorisé à percevoir les revenus de celui-ci ou ceux des biens qu'il administre en vertu de leur régime matrimonial, ainsi que toutes autres sommes qui lui sont dues par des tiers.Cette décision est opposable à tout tiers débiteur, actuel ou futur, sur la notification qui leur en est faite par le greffier à la requête du demandeur"
    }
}

Data Fields

• The questionsamples have the following fields:

  • id: an int32 feature corresponding to a unique ID number for the question.
  • question: a string feature corresponding to the question.
  • regions: a list of strings feature of regions concerned by the question.
  • topics: a list of strings feature of topics related to the question.
  • article_ids: a list of ints feature of article IDs from the knowledge corpus relevant to the question.
  • paragraph_ids: a list of strings feature of the exact paragraph IDs within the articles that are relevant to the question.
  • answer: a string feature corresponding to the comprehensive answer to the question.

• The article samples have the following fields:

  • id: an int32 feature corresponding to a unique ID number for the article.
  • reference: a string feature corresponding to the legislative reference of the article.
  • authority: a string feature corresponding to the authority that issued the article (either "regional" or "federal").
  • description: a string feature corresponding to the concatenated headings of the article.
  • article_no: a string feature corresponding to the article number in the statute.
  • code: a string feature corresponding to the law code to which the article belongs.
  • book: a string feature corresponding to the book to which the article belongs.
  • part: a string feature corresponding to the part to which the article belongs.
  • act: a string feature corresponding to the act to which the article belongs.
  • chapter: a string feature corresponding to the chapter to which the article belongs.
  • section: a string feature corresponding to the section to which the article belongs.
  • subsection: a string feature corresponding to the subsection to which the article belongs.
  • article: a string feature corresponding to the full content of the article.
  • paragraphs: a dict of strings feature corresponding to the content of the individual paragraphs of the article.

Data Splits

The LLeQA dataset is split into a train, dev, and test sets with a 90/10/10 ratio, respectively. Number of question samples in each set is given below:

	Train	Dev	Test
LLeQA	1472	201	195

Dataset Creation

Curation Rationale

The dataset is intended to be used by researchers to build and evaluate IR and QA models in the legal domain. It should not be regarded as a reliable source of legal information at this point in time, as both the questions and articles correspond to an outdated version of the Belgian law from May 2023 (time of dataset collection). In the latter case, the user is advised to consult daily updated official legal resources (e.g., the Belgian Official Gazette).

Source Data

Initial Data Collection and Normalization

The collection process of LLeQA involves three main stages. First, we gather and refine annotated legal questions. Then, we build an expansive corpus of supportive statutory articles drawn from Belgian legislation. Finally, we enrich the question annotations by generating paragraph-level references within relevant articles. We elaborate upon each of these steps below. Please refer to the paper for more details.

Who are the source language producers?

Speakers were not directly approached for inclusion in this dataset and thus could not be asked for demographic information. Questions were collected, anonimyzed, and reformulated by Belgian jurists from Droits Quotidiens. Therefore, no direct information about the speakers’ age and gender distribution, or socioeconomic status is available. However, it is expected that most, but not all, of the speakers are adults (18+ years), speak French as a native language, and live in Wallonia or Brussels-Capital region.

Annotations

Annotation process

We partner with Droits Quotidiens, a Belgian non-profit organization that endeavors to make the law comprehensible and accessible to the most vulnerable. To this end, the organization maintains a rich website featuring thousands of legal questions commonly posed by Belgian citizens. Each question comes with its own individual page, encompassing one or more categorizations, references to relevant legislative statutes, and a detailed answer written in layman's terms by experienced jurists. Practically, their legal clarification process consists of four steps. First, they select a common legal issue based on the numerous support requests they receive every day. Then, they define a new anonymized "model" question on that issue expressed in simple terms, as close as possible as if a layperson had asked it. Finally, the jurists search the Belgian law for articles that help answer the model question, reference them, and write a comprehensive answer in a language that is understandable by the general public.

Who are the annotators?

A total of six Belgian jurists from Droits Quotidiens contributed to annotating the questions. All have a law degree from a Belgian university and years of experience in providing legal advice and clarifications of the law. They range in age from 30-60 years, including one man and five women, gave their ethnicity as white European, speak French as a native language, and represent upper middle class based on income levels.

Personal and Sensitive Information

The questions represent informal, asynchronous, edited, written language that have an average length of 15 words. None of them contained hateful, aggressive, or inappropriate language as they were all reviewed and reworded by Droits Quotidiens to be neutral, anonymous, and comprehensive. The legal articles represent strong, formal, written language that have a median length of 84 words (yet 1500+ articles exceed 500 words).

Considerations for Using the Data

Social Impact of Dataset

We believe LLeQA can serve as a robust foundation for advancements in interpretable, long-form legal question answering, thereby contributing to the democratization of legal access.

Discussion of Biases

[More Information Needed]

Other Known Limitations

• It is essential to note that not all legal questions can be answered with statutes alone. For instance, the question “Can I evict my tenants if they make too much noise?” might not have a detailed answer within the statutory law that quantifies a specific noise threshold at which eviction is allowed. Instead, the landlord should probably rely more on case law and find precedents similar to their current situation (e.g., the tenant makes two parties a week until 2 am). Hence, some questions are better suited than others to the statutory article retrieval task, and the domain of the less suitable ones remains to be determined.

Additional Information

Dataset Curators

The dataset was created by Antoine Louis during work done at the Law & Tech lab of Maastricht University, with the help of jurists from Droits Quotidiens.

Licensing Information

LLeQA is distributed under a gated access for research purposes only and is licensed under the CC BY-NC-SA 4.0 license.

Citation Information

@inproceedings{louis2024interpretable,
  title = {Interpretable Long-Form Legal Question Answering with Retrieval-Augmented Large Language Models},
  author = {Louis, Antoine and Van Dijck, Gijs and Spanakis, Gerasimos},
  booktitle = {Proceedings of the 38th AAAI Conference on Artificial Intelligence},
  year = {2024},
  address = {Vancouver, Canada},
  publisher = {AAAI Press},
  url = {https://arxiv.org/abs/2309.17050},
  pages = {tba}
}

Contributions

Thanks to @antoinelouis for adding this dataset.