| # Dataset Summary | |
| This repository provides the mMARCO dataset. | |
| This dataset was created by translating the MS MARCO Passage Ranking dataset into 8 different languages. | |
| # Dataset Structure | |
| You can load mMARCO dataset by choosing a specific language. | |
| For each language, there are four splits. The first split contains all the passages from the dataset. The last two splits are the training and development queries. | |
| An example of 'collection' from portuguese looks as follows. | |
| ``` | |
| { | |
| "doc_id": "0", | |
| "document": "A presença da comunicação em meio às mentes científicas era igualmente importante para o sucesso do Projeto Manhattan como o intelecto científico era. A única nuvem pendurada sobre a impressionante conquista dos pesquisadores e engenheiros atômicos é o que seu sucesso realmente significava; centenas de milhares de vidas inocentes destruídas." | |
| } | |
| ``` | |
| # Load Dataset | |
| An example to load the dataset: | |
| ``` | |
| dataset = load_dataset('unicamp-dl/mmarco', language='portuguese') | |
| ``` | |
| # Citation Information | |
| ``` | |
| @misc{bonifacio2021mmarco, | |
| title={mMARCO: A Multilingual Version of MS MARCO Passage Ranking Dataset}, | |
| author={Luiz Henrique Bonifacio and Vitor Jeronymo and Hugo Queiroz Abonizio and Israel Campiotti and Marzieh Fadaee and and Roberto Lotufo and Rodrigo Nogueira}, | |
| year={2021}, | |
| eprint={2108.13897}, | |
| archivePrefix={arXiv}, | |
| primaryClass={cs.CL} | |
| } | |
| ``` | |