Update README.md

README.md

@@ -10,19 +10,20 @@ size_categories:
 source_datasets:
 - extended
 task_categories:
-- text-classification
+- question-answering
 task_ids:
-- natural-language-inference
+- open-domain-qa
+- extractive-qa
 languages:
 - bn
 licenses:
 - cc-by-nc-sa-4.0
 ---
 
-# Dataset Card for `xnli_bn`
+# Dataset Card for `squad_bn`
 
 ## Table of Contents
-- [Dataset Card for `xnli_bn`](#dataset-card-for-xnli_bn)
+- [Dataset Card for `squad_bn`](#dataset-card-for-squad_bn)
   - [Table of Contents](#table-of-contents)
   - [Dataset Description](#dataset-description)
     - [Dataset Summary](#dataset-summary)
@@ -60,8 +61,7 @@ licenses:
 
 ### Dataset Summary
 
-This is a Natural Language Inference (NLI) dataset for Bengali, curated using the subset of
-MNLI data used in XNLI and state-of-the-art English to Bengali translation model introduced **[here](https://aclanthology.org/2020.emnlp-main.207/).**
+This is a Question Answering (QA) dataset for Bengali, curated from the [SQuAD 2.0](), [TyDI-QA]() datasets and using the state-of-the-art English to Bengali translation model introduced **[here](https://aclanthology.org/2020.emnlp-main.207/).**
 
 
 ### Supported Tasks and Leaderboards
@@ -75,7 +75,7 @@ MNLI data used in XNLI and state-of-the-art English to Bengali translation model
 ### Usage
 ```python
 from datasets import load_dataset
-dataset = load_dataset("csebuetnlp/xnli_bn")
+dataset = load_dataset("csebuetnlp/squad_bn")
 ```
 ## Dataset Structure
 
@@ -84,9 +84,24 @@ dataset = load_dataset("csebuetnlp/xnli_bn")
 One example from the dataset is given below in JSON format. 
   ```
   {
-    "sentence1": "আসলে, আমি এমনকি এই বিষয়ে চিন্তাও করিনি, কিন্তু আমি এত হতাশ হয়ে পড়েছিলাম যে, শেষ পর্যন্ত আমি আবার তার সঙ্গে কথা বলতে শুরু করেছিলাম",
-    "sentence2": "আমি তার সাথে আবার কথা বলিনি।",
-    "label": "contradiction"
+    "title": "শেখ মুজিবুর রহমান",
+    "paragraphs": [
+        {
+            "qas": [
+                {
+                    "answers": [
+                        {
+                            "answer_start": 19,
+                            "text": "১৭ মার্চ ১৯২০"
+                        }
+                    ],
+                    "id": "bengali--981248442377505718-0-2649",
+                    "question": "শেখ মুজিবুর রহমান কবে জন্মগ্রহণ করেন ?"
+                }
+            ],
+            "context": "শেখ মুজিবুর রহমান (১৭ মার্চ ১৯২০ - ১৫ আগস্ট ১৯৭৫) বাংলাদেশের প্রথম রাষ্ট্রপতি ও ভারতীয় উপমহাদেশের একজন অন্যতম প্রভাবশালী রাজনৈতিক ব্যক্তিত্ব যিনি বাঙালীর অধিকার রক্ষায় ব্রিটিশ ভারত থেকে ভারত বিভাজন আন্দোলন এবং পরবর্তীতে  পূর্ব পাকিস্তান থেকে বাংলাদেশ প্রতিষ্ঠার সংগ্রামে নেতৃত্ব প্রদান করেন। প্রাচীন বাঙ্গালি সভ্যতার আধুনিক স্থপতি হিসাবে শেখ মুজিবুর রহমানকে বাংলাদেশের জাতির জনক বা জাতির পিতা বলা হয়ে থাকে। তিনি মাওলানা আব্দুল হামিদ খান ভাসানী প্রতিষ্ঠিত আওয়ামী লীগের সভাপতি, বাংলাদেশের প্রথম রাষ্ট্রপতি এবং পরবর্তীতে এদেশের প্রধানমন্ত্রীর দায়িত্ব পালন করেন। জনসাধারণের কাছে তিনি শেখ মুজিব এবং শেখ সাহেব হিসাবে বেশি পরিচিত এবং তার উপাধি বঙ্গবন্ধু। তার কন্যা শেখ হাসিনা বাংলাদেশ আওয়ামী লীগের বর্তমান সভানেত্রী এবং বাংলাদেশের বর্তমান প্রধানমন্ত্রী।"
+        }
+    ]
 }
   ```
 
@@ -94,24 +109,31 @@ One example from the dataset is given below in JSON format.
 
 The data fields are as follows:
 
-- `sentence1`: a `string` feature indicating the premise.
-- `sentence2`: a `string` feature indicating the hypothesis.
-- `label`: a classification label, where possible values are `contradiction` (0), `entailment` (1), `neutral` (2) .
+- `id`: a `string` feature.
+- `title`: a `string` feature.
+- `context`: a `string` feature.
+- `question`: a `string` feature.
+- `answers`: a dictionary feature containing:
+  - `text`: a `string` feature.
+  - `answer_start`: a `int32` feature.
+
 
 ### Data Splits
 |   split   |count  |
 |----------|--------|
-|`train`|  381449 |
-|`validation`| 2419  |
-|`test`| 4895 |
+|`train`|  127771 |
+|`validation`| 2502  |
+|`test`| 2504 |
 
 
 
 
 ## Dataset Creation
 
-The dataset curation procedure was the same as the [XNLI](https://aclanthology.org/D18-1269/) dataset: we translated the [MultiNLI](https://aclanthology.org/N18-1101/) training data using the English to Bangla translation model introduced [here](https://aclanthology.org/2020.emnlp-main.207/). Due to the possibility of incursions of error during automatic translation, we used the [Language-Agnostic BERT Sentence Embeddings (LaBSE)](https://arxiv.org/abs/2007.01852) of the translations and original sentences to compute their similarity. All sentences below a similarity threshold of 0.70 were discarded.
+For the training set, we translated the complete [SQuAD 2.0](https://aclanthology.org/N18-1101/) dataset using the English to Bangla translation model introduced [here](https://aclanthology.org/2020.emnlp-main.207/). Due to the possibility of incursions of error during automatic translation, we used the [Language-Agnostic BERT Sentence Embeddings (LaBSE)](https://arxiv.org/abs/2007.01852) of the translations and original sentences to compute their similarity. A datapoint was accepted if all of its constituent sentences had a similarity score over 0.7. 
 
+ Since the TyDI-QA Gold Passage task guarantees that the given context contains the answer and we want to pose our QA task analogous to SQuAD 2.0, we also consider examples from the Passage selection task that don't have an answer for the given question. We distribute the resultant examples from the TyDI-QA training and validation sets (which are publicly available) evenly to our test and validation sets.
+ 
 ### Curation Rationale
 
 [More information needed](https://github.com/csebuetnlp/banglabert)