dominguesm's picture
Initial
4a5a028
|
raw
history blame
4.49 kB
metadata
thumbnail: https://i.imgur.com/tpI1iT5.jpg
license: apache-2.0
language:
  - pt
tags:
  - generated_from_trainer
metrics:
  - precision
  - recall
  - f1
  - accuracy
model-index:
  - name: checkpoints
    results:
      - task:
          name: Token Classification
          type: token-classification
        metrics:
          - name: F1
            type: f1
            value: 0.9525622169191057
          - name: Precision
            type: precision
            value: 0.9438680702115613
          - name: Recall
            type: recall
            value: 0.961418019517758
          - name: Accuracy
            type: accuracy
            value: 0.9894253721279602
          - name: Loss
            type: loss
            value: 0.030161771923303604
widget:
  - text: >-
      Ao Instituto Médico Legal da jurisdição do acidente ou da residência
      cumpre fornecer, no prazo de 90 dias, laudo à vítima (art. 5, § 5, Lei n.
      6.194/74  de 19 de dezembro de 1974), função técnica que pode ser suprida
      por prova pericial realizada por ordem do juízo da causa, ou por prova
      técnica realizada no âmbito administrativo que se mostre coerente com os
      demais elementos de prova constante dos autos.
  - text: >-
      Acrescento que não há de se falar em violação do artigo 114, § 3º, da
      Constituição Federal, posto que referido dispositivo revela-se
      impertinente, tratando da possibilidade de ajuizamento de dissídio
      coletivo pelo Ministério Público do Trabalho nos casos de greve em
      atividade essencial.
  - text: >-
      Dispõe sobre o estágio de estudantes; altera a redação do art. 428 da
      Consolidação das Leis do Trabalho – CLT, aprovada pelo Decreto-Lei no
      5.452, de 1o de maio de 1943, e a Lei no 9.394, de 20 de dezembro de 1996;
      revoga as Leis nos 6.494, de 7 de dezembro de 1977, e 8.859, de 23 de
      março de 1994, o parágrafo único do art. 82 da Lei no 9.394, de 20 de
      dezembro de 1996, e o art. 6o da Medida Provisória  no 2.164-41, de 24 de
      agosto de 2001; e dá outras providências.

(BERT base) NER model in the legal domain in Portuguese

README under construction

ner-legal-bert-base-cased-ptbr is a NER model (token classification) in the legal domain in Portuguese that was finetuned from the model dominguesm/legal-bert-base-cased-ptbr by using a NER objective.

The model is intended to assist NLP research in the legal field, computer law and legal technology applications. Several legal texts in Portuguese were used (more information below).

Training procedure

Training results

Num examples = 971932
Num Epochs = 3
Instantaneous batch size per device = 64
Total train batch size (w. parallel, distributed & accumulation) = 128
Gradient Accumulation steps = 2
Total optimization steps = 22779
Step Training Loss Validation Loss Precision Recall F1 Accuracy
1000 0.113900 0.057008 0.898600 0.938444 0.918090
2000 0.052800 0.048254 0.917243 0.941188 0.929062
3000 0.046200 0.043833 0.919706 0.948411 0.933838
4000 0.043500 0.039796 0.928439 0.947058 0.937656
5000 0.041400 0.039421 0.926103 0.952857 0.939290
6000 0.039700 0.038599 0.922376 0.956257 0.939011
7000 0.037800 0.036463 0.935125 0.950937 0.942964
8000 0.035900 0.035706 0.934638 0.954147 0.944292
9000 0.033800 0.034518 0.940354 0.951991 0.946136
10000 0.033600 0.033454 0.938170 0.956097 0.947049
11000 0.032700 0.032899 0.934130 0.959491 0.946641
12000 0.032200 0.032477 0.937400 0.959150 0.948151
13000 0.031200 0.033207 0.937058 0.960506 0.948637
14000 0.031400 0.031711 0.938765 0.959711 0.949123
15000 0.030600 0.031519 0.940488 0.959413 0.949856
16000 0.028500 0.031618 0.943643 0.957693 0.950616
17000 0.028000 0.031106 0.941109 0.960687 0.950797
18000 0.027800 0.030712 0.942821 0.960528 0.951592
19000 0.027500 0.030523 0.942950 0.960947 0.951864
20000 0.027400 0.030577 0.942462 0.961754 0.952010
21000 0.027000 0.030025 0.944483 0.960497 0.952422
22000 0.026800 0.030162 0.943868 0.961418 0.952562