| Baseado no facebook\opt125M | |
| Treinado em 1g do [BRWAC](https://www.inf.ufrgs.br/pln/wiki/index.php?title=BrWaC) | |
| Detalhes sobre o treinamento [aqui](https://github.com/marcusborela/deep_learning_em_buscas_unicamp/blob/main/code/aula4_treino_modelo_de_linguagem.ipynb) |