pierreguillou
commited on
Commit
•
846a367
1
Parent(s):
cf4937d
Update README.md
Browse files
README.md
CHANGED
@@ -1 +1,51 @@
|
|
1 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
language: pt
|
3 |
+
license: mit
|
4 |
+
tags:
|
5 |
+
- question-answering
|
6 |
+
- bert
|
7 |
+
- bert-base
|
8 |
+
- pytorch
|
9 |
+
- tensorflow
|
10 |
+
datasets:
|
11 |
+
- brWaC
|
12 |
+
- squad
|
13 |
+
metrics:
|
14 |
+
- squad
|
15 |
+
widget:
|
16 |
+
- text: "Quando começou a pandemia de Covid-19 no mundo?"
|
17 |
+
context: "A pandemia de COVID-19, também conhecida como pandemia de coronavírus, é uma pandemia em curso de COVID-19, uma doença respiratória aguda causada pelo coronavírus da síndrome respiratória aguda grave 2 (SARS-CoV-2). A doença foi identificada pela primeira vez em Wuhan, na província de Hubei, República Popular da China, em 1 de dezembro de 2019, mas o primeiro caso foi reportado em 31 de dezembro do mesmo ano."
|
18 |
+
- text: "Onde foi descoberta a Covid-19?"
|
19 |
+
context: "A pandemia de COVID-19, também conhecida como pandemia de coronavírus, é uma pandemia em curso de COVID-19, uma doença respiratória aguda causada pelo coronavírus da síndrome respiratória aguda grave 2 (SARS-CoV-2). A doença foi identificada pela primeira vez em Wuhan, na província de Hubei, República Popular da China, em 1 de dezembro de 2019, mas o primeiro caso foi reportado em 31 de dezembro do mesmo ano."
|
20 |
+
---
|
21 |
+
|
22 |
+
# Portuguese BERT base cased QA (Question Answering), finetuned on SQUAD v1.1
|
23 |
+
|
24 |
+
## Introduction
|
25 |
+
|
26 |
+
The model was trained on the dataset SQUAD v1.1 in portuguese from the [Deep Learning Brasil group](http://www.deeplearningbrasil.com.br/) on Google Colab.
|
27 |
+
|
28 |
+
The language model used is the [BERTimbau Base](https://huggingface.co/neuralmind/bert-base-portuguese-cased) (aka "bert-base-portuguese-cased") from [Neuralmind.ai](https://neuralmind.ai/): BERTimbau Base is a pretrained BERT model for Brazilian Portuguese that achieves state-of-the-art performances on three downstream NLP tasks: Named Entity Recognition, Sentence Textual Similarity and Recognizing Textual Entailment. It is available in two sizes: Base and Large.
|
29 |
+
|
30 |
+
## Informations on the method used
|
31 |
+
|
32 |
+
All the informations are in the blog post : [NLP | Modelo de Question Answering em qualquer idioma baseado no BERT base (estudo de caso em português)](https://medium.com/@pierre_guillou/nlp-modelo-de-question-answering-em-qualquer-idioma-baseado-no-bert-base-estudo-de-caso-em-12093d385e78)
|
33 |
+
|
34 |
+
## Limitations and bias
|
35 |
+
|
36 |
+
The training data used for this model come from Portuguese SQUAD. It could contain a lot of unfiltered content, which is far from neutral, and biases.
|
37 |
+
|
38 |
+
## Author
|
39 |
+
|
40 |
+
Portuguese BERT base cased QA (Question Answering), finetuned on SQUAD v1.1 was trained and evaluated by [Pierre GUILLOU](https://www.linkedin.com/in/pierreguillou/) thanks to the Open Source code, platforms and advices of many organizations ([link to the list](https://medium.com/@pierre_guillou/nlp-modelo-de-question-answering-em-qualquer-idioma-baseado-no-bert-base-estudo-de-caso-em-12093d385e78#c572)). In particular: [Neuralmind.ai](https://neuralmind.ai/), [Deep Learning Brasil group](http://www.deeplearningbrasil.com.br/), [Google Colab](https://colab.research.google.com/) and [AI Lab](https://ailab.unb.br/).
|
41 |
+
|
42 |
+
## Citation
|
43 |
+
If you use our work, please cite:
|
44 |
+
|
45 |
+
```bibtex
|
46 |
+
@inproceedings{pierreguillou2021bertbasecasedsquadv11portuguese,
|
47 |
+
title={Portuguese BERT base cased QA (Question Answering), finetuned on SQUAD v1.1},
|
48 |
+
author={Pierre Guillou},
|
49 |
+
year={2021}
|
50 |
+
}
|
51 |
+
```
|