question
stringlengths
4
184
lang
class label
7 classes
answers
stringlengths
1
1.88k
উইকিলিকস কত সালে সর্বপ্রথম ইন্টারনেটে প্রথম তথ্য প্রদর্শন করে ?
1bn
2006
দ্বিতীয় বিশ্বযুদ্ধে কোন দেশ পরাজিত হয় ?
1bn
Germany
মার্কিন যুক্তরাষ্ট্রের সংবিধান অনুযায়ী মার্কিন যুক্তরাষ্ট্রে পুরুষ সমকামী বিবাহ কি আইনত বৈধ ?
1bn
yes
আরব-ইসরায়েলি যুদ্ধে আরবের মোট কয়জন সৈন্যের মৃত্যু হয়েছিল ?
1bn
unknown
বিশ্বে প্রথম পুঁজিবাদী সমাজ কবে গড়ে ওঠে ?
1bn
17th century
প্রথম বিশ্বযুদ্ধের আনুষ্ঠানিক সূচনা কবে হয় ?
1bn
28 July 1914
মানুষের উদ্ভবের ও বিকাশের বিবর্তন তত্ত্বটির প্রথম বিরোধিতা কে করেন ?
1bn
Georges Cuvier
মানুষের উদ্ভবের ও বিকাশের বিবর্তন তত্ত্বটির উদ্ভাবক কে ?
1bn
Charles Darwin and Alfred Russel Wallace
মার্কিন যুক্তরাষ্ট্রের রিপাবলিকান পার্টির প্রথম প্রেসিডেন্ট কে ছিলেন ?
1bn
Abraham Lincoln
আরব–ইসরায়েল যুদ্ধের সময় আরবের মোট কত জন সৈন্যের মৃত্যু হয় ?
1bn
The exact number of Arab casualties is unknown
উইকিপিডিয়ার বর্তমান মালিক কে ?
1bn
Jimmy Donal Wales
ইসলামী যুগ আনুমানিক কবে থেকে শুরু হয় ?
1bn
7th century
যুক্তরাষ্ট্রের উত্তরে ইউটা অঙ্গরাজ্যে অবস্থিত গ্রেট সল্ট লেকের মোট আয়তন কত ?
1bn
950 square miles (2,460 km²)
সর্বপ্রথম কোন ভাষায় উইকিপিডিয়া লেখা হয় ?
1bn
English
আর্নল্ড শোয়ার্জনেগার যুক্তরাষ্ট্রের ক্যালিফোর্নিয়ার কোন রাজনৈতিক দলের সাথে যুক্ত ?
1bn
Republican
চার্লস ডারউইন বিবর্তনবাদ সম্পর্কে প্রথম ধারণা দেন কোন বইয়ে ?
1bn
On the Origin of Species
আয়তনের দিক থেকে গ্রিসের সবচেয়ে বড় শহর কোনটি ?
1bn
Athens
কোন মনোবৈজ্ঞানিক সর্বপ্রথম প্রেষণা শব্দটির ব্যাখ্যা করেন ?
1bn
Abraham Maslow
নারীবাদী যৌন যুদ্ধ কবে প্রথম শুরু হয় ?
1bn
1963
পৃথিবীর সর্বপ্রথম পূর্ণদৈর্ঘ্যের হিন্দি চলচ্চিত্রটির পরিচালক কে ছিলেন ?
1bn
Raja Harishchandra
মার্কিন যুক্তরাষ্ট্রের সংবিধান অনুযায়ী মার্কিন যুক্তরাষ্ট্রে পুরুষ সমকামী বিবাহ কি আইনত বৈধ ?
1bn
yes
মানুষের উদ্ভবের ও বিকাশের বিবর্তন তত্ত্বটি কবে প্রথম প্রকাশিত হয় ?
1bn
1858
বিখ্যাত ইংরেজ কবি, নাট্যকার এডওয়ার্ড জেমস টেড হিউজের রচিত প্রথম কাব্যগ্রন্থটি কবে প্রকাশিত হয় ?
1bn
1957
অ্যাপল ইনকর্পোরেটেড কত সালে প্রথম আইফোন নির্মাণ করে ?
1bn
2007
যুক্তরাষ্ট্রে ইউএস নেটওয়ার্ক কবে থেকে প্রথম চালু হয় ?
1bn
1928
ব্রিটিশ অর্থনীতিবিদ জন মায়নার্ড কেইন্সের রচিত দ্বিতীয় গ্রন্থের নাম কী ?
1bn
The Economic Consequences of the Peace
মার্কিন যুক্তরাষ্ট্রের রিপাবলিকান পার্টি কবে প্রতিষ্ঠিত হয় ?
1bn
1854
আল কায়েদা নামক সংগঠনটি কবে গড়ে ওঠে ?
1bn
1988
১৯৭১ সালে ভারত-পাকিস্তান নৌযুদ্ধে কোন দেশ জয় লাভ করে ?
1bn
India
আয়তনের দিক থেকে রাশিয়ার সবচেয়ে বড় শহর কোনটি ?
1bn
Moscow
কনস্ট্যাণ্টিনোপল সাম্রাজ্যের প্রতিষ্ঠাতা কে ছিলেন ?
1bn
Constantine I
ভারতবর্ষের প্রাচীনতম সভ্যতার নাম কী ?
1bn
Indus Valley Civilisation
থিওলজি বা ধর্মবিদ্যা' সম্পর্কে প্রথম কে ধারণা দিয়েছিলেন ?
1bn
Origen
লিনাক্স কার্নেল অপারেটিং সিস্টেমটি কোন কোম্পানির কম্পিউটারে প্রথম ব্যবহৃত হয় ?
1bn
Macintosh
তিব্বতী বৌদ্ধধর্মের অন্যতম প্রধান ধর্মসম্প্রদায় দ্গে-লুগ্স ধর্মসম্প্রদায়ের প্রথম দলাই লামা কে ছিলেন ?
1bn
Gedun Drupa
দামেস্ক কোন সাম্রাজ্যের প্ৰথম গুরুত্বপূর্ণ শহর ছিল ?
1bn
Umayyad Caliphate
পর্নোগ্রাফি নিয়ন্ত্রণ আইন বাংলাদেশে কোন সালে প্রথম প্রণয়ন করা হয়েছিল ?
1bn
2012
মিশিগানের বৃহত্তম শহর কোনটি ?
1bn
Detroit
বিনোদনের একটি প্রধান মাধ্যম টেলিভিশন যন্ত্রটি কে আবিষ্কার করেন ?
1bn
Constantin Perskyi
আধুনিক মায়ানমারের সরকারি ভাষা কী ?
1bn
Burmese language
কোন বিজ্ঞানী সর্বপ্রথম ভ্যাকুয়াম শক্তি সম্পর্কে তথ্য প্রকাশ করে ?
1bn
Aristotle
পূর্ববঙ্গের পঞ্চাশের গণহত্যার সময় পূর্ব পাকিস্তানের প্রধানমন্ত্রী কে ছিলেন ?
1bn
Mohammad Ali of Bogra
খলিফা আবু বকর কোন সাম্রাজ্যের সম্রাট ছিলেন ?
1bn
Sunni Islam
ইসলামী আইন কে বা কারা তৈরি করেন ?
1bn
Muhammad
কনস্ট্যাণ্টিনোপল সাম্রাজ্যের রাজধানী কোথায় ছিল ?
1bn
Constantinople
লিনাক্স কার্নেল অপারেটিং সিস্টেমটি কবে প্রথম নির্মিত হয় ?
1bn
September 17, 1991
যুক্তরাষ্ট্রের অ্যাপোলো স্পেস প্রোগ্রাম-এর প্রথম মনুষ্যবাহী যানটির নাম কী ?
1bn
Apollo 1
ইসলামি যুগকে মোট কতগুলি ভাগে ভাগ করা হয় ?
1bn
three
মানব সভ্যতার ইতিহাসকে মোট কয়টি ভাগে ভাগ করা হয় ?
1bn
three
মার্কিন যুক্তরাষ্ট্রে ইউএস নেটওয়ার্ক কবে থেকে চালু হয় ?
1bn
1977
কত সালে ট্রেভর লেসলি গডার্ড এর দক্ষিণ আফ্রিকান টেস্ট ক্রিকেট ম্যাচে অভিষেক ঘটে ?
1bn
1955
মার্কিন যুক্তরাষ্ট্রে সর্বপ্রথম ডাক বাক্সের প্রচলন কবে থেকে শুরু হয় ?
1bn
1692
প্রথম বার যখন বাংলায় মারাঠা আক্রমণ হয় তখন বাংলার নবাব কে ছিলেন ?
1bn
Alivardi Khan
রাশিয়ার কবে প্রথম বাইজেন্টাইন সাম্রাজ্যের আবির্ভাব ঘটে ?
1bn
988
পেশাদার কুস্তিগীর ডীন আমব্রোস কোন দেশের নাগরিক ?
1bn
American
পৃথিবীর প্রথম ব্যক্তিগত কম্পিউটার কবে নির্মাণ করা হয় ?
1bn
1981
সালোকসংশ্লেষ শব্দটি সর্বপ্রথম কে প্রচলন করেন ?
1bn
Charles Reid Barnes
সিঙ্গাপুরের বিশিষ্ট স্ত্রীরোগবিশেষজ্ঞ ক্যাপ্টেন ডাক্তার লক্ষ্মী সেহগল কবে প্রথম ভারতবর্ষ আসেন ?
1bn
1946
অস্ট্রেলীয় আন্তর্জাতিক ক্রিকেটার গ্রিগরি মাইকেল গ্রেগ রিচি কত সালে সর্বপ্রথম টেস্ট ক্রিকেট ম্যাচটি খেলেছিলেন ?
1bn
1980-81
বারাক ওবামা কত সালে মার্কিন রাষ্ট্রপতির পদে নিযুক্ত হন ?
1bn
2009
ডুবুরি বা ডুবালু পাখি কোন অঞ্চলে বেশি পাওয়া যায় ?
1bn
Europe, much of Asia down to New Guinea, and most of Africa
ভারতীয় উপমহাদেশে সমাজতান্ত্রিক আন্দোলনের সূচনা কবে হয় ?
1bn
20th century
নারীবাদী যৌন যুদ্ধ প্রথম কোথায় শুরু হয় ?
1bn
San Francisco
ভারতীয় উপমহাদেশে সমাজতান্ত্রিক আন্দোলনের সূচনা কবে হয় ?
1bn
20th century
১৯৭১ সালের বাংলাদেশের স্বাধীনতাযুদ্ধের মুক্তিবাহিনীর প্রথম সামরিক ব্রিগেড "জেড ফোর্স" কার নেতৃত্বে গঠিত হয় ?
1bn
Ziaur Rahman
বাংলা ভাষায় রচিত প্রথম কাব্যগ্রন্থের নাম কী ?
1bn
Tilottama Sambhab Kabya
কত শতকে ইতালিতে ধ্রুপদী সভ্যতার পাঠের সূচনা হয় ?
1bn
14th century
পুরুষ সমকামীতা কি আমেরিকাতে বৈধ ?
1bn
yes
কে বা কারা প্রথম উইকিপিডিয়া তৈরী করেন ?
1bn
Larry Sanger
বিশ্বের কোন দেশ প্রথম বিমান তৈরি করেন ?
1bn
America
বার্লিনের সরকারি ভাষা কী ?
1bn
German
দ্বিতীয় আব্বাসীয় খলিফা আবু জাফর আবদাল্লাহ ইবনে মুহাম্মদ আল মনসুরের মায়ের নাম কী ?
1bn
Sallama
জেমস বন্ড চলচ্চিত্র সিরিজের দ্বিতীয় চলচ্চিত্রের পরিচালক কে ছিলেন ?
1bn
Terence Young
কনস্ট্যাণ্টিনোপল সাম্রাজ্য কবে প্রতিষ্ঠিত হয় ?
1bn
657 BC
হিন্দু ধর্মমতে মোট কতজন দেবদেবীর উল্লেখ করা হয়েছে ?
1bn
33 million
নারীবাদী যৌন যুদ্ধের বিরোধী দলের নাম কী ?
1bn
Antifeminism
মুসলমানদের ধর্মীয় গ্রন্থ কুরআনের প্রথম সূরার মোট কয়টি আয়াত আছে ?
1bn
seven verses
বর্তমানে বাংলাদেশে মোট নারীর সংখ্যা কত ?
1bn
39 641
আল কায়েদা সংস্থাটির প্রতিষ্ঠাতা কে ?
1bn
Osama bin Laden
কত সালে ভারত ইস্ট ইন্ডিয়া কোম্পানির শাসনাধীন হয়েছিল ?
1bn
1757
সিরিয়া আরব রাজতন্ত্রের সরকারি ভাষা কী ?
1bn
Arabic
সিরিয়া আরব রাজতন্ত্রের সরকারি ভাষা কী ?
1bn
Arabic
পৃথিবীর সর্বপ্রথম নির্মিত নির্বাক চলচ্চিত্র কোনটি ?
1bn
"Sortie de l'usine Lumière de Lyon"
ইউক্রেনের রাষ্ট্রপতি কত বছরের জন্য জনগণের ভোটে নির্বাচিত হন ?
1bn
5-year term
১৯৭২ সালে যখন দালাল আইন তৈরি করা হয় তখন বাংলাদেশের রাষ্ট্রপতি কে ছিলেন ?
1bn
Sheikh Mujibur Rahman
হিন্দু ধর্ম মতে নরকের প্রকারভেদ কয়টি ?
1bn
28
কোনো মহিলা গর্ভবতী থাকাকালীন তার কি কম তেল মশলা জাতীয় খাবার খাওয়া উচিত ?
1bn
yes
প্রাকৃতিক নির্বাচন কথাটি যে গ্রন্থে সর্বপ্রথম করা হয় সেই গ্রন্থটি কত সালে প্রকাশিত হয় ?
1bn
1859
মুসলমানদের ধর্মীয় গ্রন্থ কুরআনে মোট সূরার সংখ্যা কত ?
1bn
114
বর্তমান সময় পর্যন্ত উইন্ডোজ অপারেটিং সিস্টেমের সর্বশেষ সংস্করণ কোনটি ?
1bn
Redstone 5
হাইড্রোজেন বোমা কবে প্রথম আবিষ্কৃত হয় ?
1bn
1942
ভারতবর্ষে কবে থেকে সমকামিতা কে আইনী মর্যাদা দেওয়া হয় ?
1bn
6 September 2018
চীনের মুসলিমদের মাতৃভাষা কী ?
1bn
Chinese
চীনের মুসলিমদের মাতৃভাষা কী ?
1bn
Chinese, while maintaining some Persian and Arabic phrases
ডোনাল্ড ট্রাম্প মোট কতগুলো ভোট পেয়ে মার্কিন যুক্তরাষ্ট্রের রাষ্ট্রপতি নির্বাচিত হয়েছিলেন ?
1bn
just under 63 million
আয়তনের দিক থেকে গ্রেট ব্রিটেনের সবচেয়ে বড় শহরের নাম কী ?
1bn
London
ব্রিটিশ অর্থনীতিবিদ জন মায়নার্ড কেইন্সের রচিত প্রথম গ্রন্থের নাম কী ?
1bn
Indian Currency and Finance
মনোবিজ্ঞান নিয়ে রচিত সর্বপ্রথম গ্রন্থটি কত সালে প্রকাশিত হয় ?
1bn
1874
আবু সুফিয়ান ইবনে হযরত মুয়াবিয়া মোট কত বছর সিরিয়ার গভর্নর ছিলেন ?
1bn
20 years
ক্যালিফোর্নিয়ার রাজধানীর নাম কী ?
1bn
Sacramento

Dataset Card for XOR QA

Dataset Summary

XOR-TyDi QA brings together for the first time information-seeking questions, open-retrieval QA, and multilingual QA to create a multilingual open-retrieval QA dataset that enables cross-lingual answer retrieval. It consists of questions written by information-seeking native speakers in 7 typologically diverse languages and answer annotations that are retrieved from multilingual document collections.

Supported Tasks and Leaderboards

There are three sub-tasks: XOR-Retrieve, XOR-EnglishSpan, and XOR-Full.

  • XOR-retrieve: XOR-Retrieve is a cross-lingual retrieval task where a question is written in a target language (e.g., Japanese) and a system is required to retrieve English paragraphs that answer the question. The dataset can be used to train a model for cross-lingual retrieval. Success on this task is typically measured by R@5kt, R@2kt (the recall by computing the fraction of the questions for which the minimal answer is contained in the top 5,000 / 2,000 tokens selected). This task has an active leaderboard which can be found at leaderboard url

  • XOR-English Span: XOR-English Span is a cross-lingual retrieval task where a question is written in a target language (e.g., Japanese) and a system is required to output a short answer in English. The dataset can be used to train a model for cross-lingual retrieval. Success on this task is typically measured by F1, EM. This task has an active leaderboard which can be found at leaderboard url

  • XOR-Full: XOR-Full is a cross-lingual retrieval task where a question is written in the target language (e.g., Japanese) and a system is required to output a short answer in a target language. Success on this task is typically measured by F1, EM, BLEU This task has an active leaderboard which can be found at leaderboard url

Languages

The text in the dataset is available in 7 languages: Arabic ar, Bengali bn, Finnish fi, Japanese ja, Korean ko, Russian ru, Telugu te

Dataset Structure

Data Instances

A typical data point comprises a question, it's answer the language of the question text and the split to which it belongs.

{
    "id": "-3979399588609321314", 
    "question": "Сколько детей было у Наполео́на I Бонапа́рта?", 
    "answers": ["сын"], 
    "lang": "ru", 
    "split": "train"
}

Data Fields

  • id: An identifier for each example in the dataset
  • question: Open domain question
  • answers: The corresponding answer to the question posed
  • lang: BCP-47 language tag
  • split: identifier to differentiate train, validation and test splits

Data Splits

The data is split into a training, validation and test set for each of the two configurations.

train validation test
XOR Retrieve 15250 2113 2501
XOR Full 61360 3179 8177

Dataset Creation

Curation Rationale

This task framework reflects well real-world scenarios where a QA system uses multilingual document collections and answers questions asked by users with diverse linguistic and cultural backgrounds. Despite the common assumption that we can find answers in the target language, web re- sources in non-English languages are largely lim- ited compared to English (information scarcity), or the contents are biased towards their own cul- tures (information asymmetry). To solve these issues, XOR-TYDI QA (Asai et al., 2020) provides a benchmark for developing a multilingual QA system that finds answers in multiple languages.

Source Data

annotation pipeline consists of four steps: 1) collection of realistic questions that require cross-lingual ref- erences by annotating questions from TYDI QA without a same-language answer; 2) question translation from a target language to the pivot language of English where the missing informa- tion may exist; 3) answer span selection in the pivot language given a set of candidate documents; 4) answer verification and translation from the pivot language back to the original language.

Initial Data Collection and Normalization

[More Information Needed]

Who are the source language producers?

The Dataset is created by extending TyDiQA dataset and translating the questions into other languages. The answers are obtained by crowdsourcing the questions to Mechanical Turk workders

Annotations

Annotation process

The English questions from TyDiQA are translated into other languages. The languages are chosen based on the availability of wikipedia data and the availability of tranlators.

Who are the annotators?

The translations are carried out using the professionla tranlation service (Gengo)[https://gengo.com] and the answers are annotated by MechanicalTurk workers

Personal and Sensitive Information

The dataset is created from wikipedia content and the QA task requires preserving the named entities, there by all the Wikipedia Named Entities are preserved in the data. Not much information has been provided about masking sensitive information.

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

The people associated with the creation of the dataset are Akari Asai, Jungo Kasai, Jonathan H. Clark, Kenton Lee, Eunsol Choi, Hannaneh Hajishirzi

Licensing Information

XOR-TyDi QA is distributed under the CC BY-SA 4.0 license

Citation Information

@article{xorqa,
    title   = {XOR QA: Cross-lingual Open-Retrieval Question Answering},
    author  = {Akari Asai and Jungo Kasai and Jonathan H. Clark and Kenton Lee and Eunsol Choi and Hannaneh Hajishirzi}
    year    = {2020}
}

Contributions

Thanks to @sumanthd17 for adding this dataset.

Downloads last month
309

Models trained or fine-tuned on xor_tydi_qa