LabourActQA

LabourActQA is a 500-item, expert-verified question-answering benchmark built directly from the statutory text of the Bangladesh Labour Act, 2006 (as amended). Every question, reference answer, and supporting evidence quote is drafted and cross-checked against the Act's own sections, subsections, provisos, and cross-references; no case law, commentary, or secondary legal literature is used at any stage.

The dataset spans seven reasoning categories across three difficulty tiers, drawn from 19 chapters of the Act, letting it evaluate statutory-reasoning systems from simple fact lookup through multi-hop and hypothetical legal reasoning. It is intended purely as an evaluation benchmark (no train/test split) for retrieval-augmented and agentic legal-QA systems over an under-served, non-English statutory jurisdiction.

Source material

The source document is the Bangladesh Labour Act, 2006, as amended, a public government statute issued by the Ministry of Labour and Employment, Government of the People's Republic of Bangladesh, with no copyright restriction on the statutory text itself.

The Act's PDF is typeset in a legacy pre-Unicode Bangla font (SutonnyMJ/ShonarBangla-style), which stores glyphs in visual draw order and hijacks ASCII code points for common conjuncts (e.g. শ্র, প্র), so direct PDF text extraction (pypdf, PyMuPDF get_text()) silently corrupts the text under this encoding. GPT-4o and GPT-4o-mini vision were both tried on rendered page images and hallucinated: invented wording, wrong section numbers, one inserted a random English word mid-sentence. The Act was therefore digitized via page-rendered, vision-based OCR with gemini-3-flash-preview, whose transcription was cross-checked against the source page images and reproduced the text (including exact section/subsection numbers) correctly. The OCR output was then segmented by a structure-aware chunker into chapter / section / subsection / proviso / cross-reference units before any question was drafted, so that every item is traceable to specific, citable statutory units rather than an arbitrary span of text.

19 of the Act's chapters are represented in the released set:

Table 1. Chapter coverage and item counts

Chapter	Title (English)	Title (বাংলা)	Items
1	Preliminary	প্রারম্ভিক	35
2	Employment and Conditions of Service	নিয়োগ ও চাকুরীর শর্তাবলী	35
3	Employment of Adolescent Workers	কিশোর শ্রমিক নিয়োগ	20
4	Maternity Benefit	প্রসূতি কল্যাণ সুবিধা	15
5	Health Provisions	স্বাস্থ্য রক্ষা ব্যবস্থা	15
6	Safety	নিরাপত্তা	30
7	Special Provisions Relating to Health, Hygiene and Safety	স্বাস্থ্য, স্বাস্থ্য বিধি ও নিরাপত্তা সম্পর্কে বিশেষ বিধান	32
8	Welfare Measures	কল্যাণমূলক ব্যবস্থা	20
9	Working Hours and Leave	কর্মঘণ্টা ও ছুটি	15
10	Wages and Payment thereof	মজুরী ও উহার পরিশোধ	15
11	Wages Board	মজুরী বোর্ড	15
12	Compensation for Injury by Accident	দুর্ঘটনাজনিত কারণে জখমের জন্য ক্ষতিপূরণ	35
13	Trade Unions and Industrial Relations	ট্রেড ইউনিয়ন এবং শিল্প সম্পর্ক	46
14	Settlement of Disputes, Labour Courts, Labour Appellate Tribunal, Legal Proceedings, etc.	বিরোধ নিষ্পত্তি, শ্রম আদালত, শ্রম আপীল ট্রাইব্যুনাল, আইনগত কার্যধারা, ইত্যাদি	46
15	Workers' Participation in Company's Profits	কোম্পানীর মুনাফায় শ্রমিকের অংশগ্রহণ	20
17	Provident Funds	ভবিষ্য তহবিল	20
18	Apprenticeship	শিক্ষাধীনতা	22
19	Offences, Penalties and Procedure	অপরাধ, দণ্ড এবং পদ্ধতি	32
20	Administration, Inspection, etc.	প্রশাসন, পরিদর্শন, ইত্যাদি	32
	Total		500

Data fields

Each item is a flat JSON object with the following fields:

Table 2. Schema of a LabourActQA item

Field	Type	Description
id	string	Stable identifier encoding chapter and reasoning category, e.g. LABOURACTQA-CH2-DFR-001
number	integer	Item number within its chapter
category	string	The reasoning category, one of 7 values, see taxonomy
difficulty	string	Easy, Medium, or Hard, fixed per category, see difficulty tiers
chapter	string	Chapter number of the Act the item is drawn from, e.g. "2"
chapter_title	string	Chapter title as printed in the Act (Bangla)
question	string	The question, in Bangla
answer	string	The statutorily correct reference answer, in Bangla
evidence	string	Literal quote(s) of the supporting section/subsection text from the Act (the grounding a system should be able to cite)
source_page	string	Page number in the source Act PDF the evidence appears on

Example

{
  "id": "LABOURACTQA-CH2-PR-003",
  "number": 14,
  "category": "procedural_reasoning",
  "difficulty": "Medium",
  "chapter": "2",
  "chapter_title": "নিয়োগ ও চাকুরীর শর্তাবলী",
  "question": "কোনো শ্রমিকের বিরুদ্ধে শাস্তির আদেশ দেওয়ার আগে কী কী ধাপ অনুসরণ করা বাধ্যতামূলক?",
  "answer": "শাস্তির আদেশ প্রদান করা যাইবে না, যদি না: (ক) তাহার বিরুদ্ধে অভিযোগ লিখিতভাবে করা হয়; (খ) অভিযোগের কপি দিয়া অন্তত সাত দিন জবাব দেওয়ার সময় দেওয়া হয়; (গ) তাহাকে শুনানীর সুযোগ দেওয়া হয়; (ঘ) মালিক ও শ্রমিকের সম-সংখ্যক প্রতিনিধি সমন্বয়ে গঠিত তদন্ত কমিটির তদন্তের পর (যা ষাট দিনের মধ্যে শেষ করিতে হইবে) তাহাকে দোষী সাব্যস্ত করা হয়; এবং (ঙ) মালিক বা ব্যবস্থাপক বরখাস্তের আদেশ অনুমোদন করেন।",
  "evidence": "২৪(১) ধারা ২৩ এর অধীন কোন শ্রমিকের বিরুদ্ধে শাস্তির আদেশ প্রদান করা যাইবে না, যদি না- (ক) তাহার বিরুদ্ধে অভিযোগ লিখিতভাবে করা হয়; (খ) অভিযোগের একটি কপি তাহাকে দেওয়া হয় এবং ইহার জবাব দেওয়ার জন্য অন্তত সাতদিন সময় দেওয়া হয়; (গ) তাহাকে শুনানীর সুযোগ দেওয়া হয়; (ঘ) মালিক ও শ্রমিকের সম-সংখ্যক প্রতিনিধি সমন্বয়ে গঠিত তদন্ত কমিটির তদন্তের পর তাহাকে দোষী সাব্যস্ত করা হয়: তবে শর্ত থাকে যে, উক্ত তদন্ত ষাট দিনের মধ্যে শেষ করিতে হইবে; (ঙ) মালিক বা ব্যবস্থাপক বরখাস্তের আদেশ অনুমোদন করেন।",
  "source_page": "31"
}

Reasoning category taxonomy

Every item carries exactly one category value, describing the reasoning operation the question demands, independent of which chapter it is drawn from. Difficulty is assigned per category (every item in a given category carries the same tier), so the two fields are not independent axes but two granularities of the same underlying taxonomy.

Table 3. Reasoning category taxonomy, with mapped difficulty tier and item counts

category value	Meaning	Difficulty tier	Count	% of dataset
direct_factual_retrieval	A single statutory fact stated explicitly in one section	Easy	78	15.6%
definitional_classification	The meaning or classification of a statutory term	Easy	76	15.2%
procedural_reasoning	A statutorily defined process or sequence of steps	Medium	61	12.2%
conditional_reasoning	A rule whose application depends on a stated condition or proviso	Medium	74	14.8%
comparative_reasoning	Contrasting two or more statutory provisions	Medium	70	14.0%
multi_hop_reasoning	Combining information from more than one linked statutory unit	Hard	74	14.8%
hypothetical_legal_reasoning	Applying a statutory rule to a hypothetical fact pattern	Hard	67	13.4%
	Total		500	100%

Difficulty tiers

Table 4. Item counts by difficulty tier

Difficulty	Categories included	Count	% of dataset
Easy	Direct Factual Retrieval, Definitional & Classification	154	30.8%
Medium	Procedural, Conditional, Comparative Reasoning	205	41.0%
Hard	Multi-hop, Hypothetical Legal Reasoning	141	28.2%
Total		500	100%

Chapter-wise distribution

By reasoning category

Table 5. Item counts per chapter, broken down by reasoning category

Chapter	Direct Factual Retrieval	Definitional & Classification	Procedural Reasoning	Conditional Reasoning	Comparative Reasoning	Multi-hop Reasoning	Hypothetical Legal Reasoning	Total
1	6	5	4	5	5	5	5	35
2	5	6	5	5	5	5	4	35
3	3	3	2	3	3	3	3	20
4	2	2	2	3	2	2	2	15
5	3	2	1	2	2	3	2	15
6	5	5	4	4	4	4	4	30
7	4	5	4	5	5	5	4	32
8	3	3	3	3	2	3	3	20
9	3	2	2	2	2	2	2	15
10	2	2	1	3	3	2	2	15
11	2	2	2	2	2	3	2	15
12	6	6	4	5	4	5	5	35
13	7	7	6	7	7	6	6	46
14	7	7	6	6	7	7	6	46
15	4	3	2	3	2	3	3	20
17	3	3	3	3	3	3	2	20
18	3	3	2	4	3	4	3	22
19	5	5	4	4	5	4	5	32
20	5	5	4	5	4	5	4	32
Total	78	76	61	74	70	74	67	500

By difficulty

Table 6. Item counts per chapter, broken down by difficulty tier

Chapter	Easy	Medium	Hard	Total
1	11	14	10	35
2	11	15	9	35
3	6	8	6	20
4	4	7	4	15
5	5	5	5	15
6	10	12	8	30
7	9	14	9	32
8	6	8	6	20
9	5	6	4	15
10	4	7	4	15
11	4	6	5	15
12	12	13	10	35
13	14	20	12	46
14	14	19	13	46
15	7	7	6	20
17	6	9	5	20
18	6	9	7	22
19	10	13	9	32
20	10	13	9	32
Total	154	205	141	500

Licensing

This dataset (questions, answers, and evidence annotations) is released under the MIT License. The underlying source document, the Bangladesh Labour Act, 2006 (as amended), is a public statute of the Government of Bangladesh with no copyright restriction on the statutory text itself.

Contact

Maintained by Fatema Tuj Johora Faria (fatema.faria323@gmail.com) and Mukaffi Bin Moin (mukaffi28@gmail.com). For questions, corrections, or issues, please open a discussion on the dataset's Hugging Face repository.