README.md

---
license: mit
tags:
- t5
- pytorch
- pt
- pt-br
- summarization
- abstractive summarization
inference:
  parameters:
    min_length: 32
    max_length: 256
    top_k: 5
widget:
- text: >-
    Os americanos não devem se preocupar com a guerra nuclear, disse o
    presidente dos EUA, Joe Biden, nesta segunda-feira (28). A fala vem um dia
    depois que o presidente russo, Vladimir Putin, colocou as equipes nucleares
    da Rússia em alerta máximo. Os Estados Unidos disseram nesta segunda que não
    detectaram nenhuma mudança "concreta" na posição nuclear da Rússia. "Ainda
    estamos monitorando e acompanhando a questão muito de perto", disse um alto
    funcionário do Pentágono a repórteres, um dia após o anúncio do presidente
    russo. "Não acredito que vimos nada de concreto como resultado de sua
    decisão. Pelo menos não por enquanto", acrescentou. O funcionário reconheceu
    que era "difícil saber o que estava por trás da ordem de Putin". Mas "o
    simples fato de mencionar" ou "ameaçar" com um "uso de forças nucleares" é
    "inútil e representa uma escalada significativa" na invasão à sua vizinha
    Ucrânia, lamentou, reafirmando que a Otan "nunca" ameaçou a Rússia. Leia
    também Por que os Estados Unidos não entram na guerra contra a Rússia? Putin
    pode apertar o botão nuclear? Veja o que mais você precisa saber sobre a
    guerra na Ucrânia No domingo, Belarus, aliada da Rússia, realizou um
    referendo que elimina a obrigação de que a ex-república soviética permaneça
    uma "zona livre de armas nucleares". As potências ocidentais denunciaram
    essa medida, que acreditam permitir que Moscou transfira armas nucleares
    para Belarus, outro vizinho da Ucrânia e que também faz fronteira com vários
    países da Aliança Atlântica. Quando perguntado se movimentos desse tipo
    foram observados, o funcionário do Pentágono respondeu que "não". Ele também
    assegurou que, no momento, não há evidências de que haja soldados belarussos
    na Ucrânia como reforço das forças russas. "Até onde sabemos, as forças que
    entraram na Ucrânia são todas russas", disse ele, acrescentando que Moscou
    levou para o território ucraniano "quase 75%" das forças de combate
    concentradas na fronteira nos últimos meses. EUA fecham embaixada em Belarus
    Os EUA fecharam sua embaixada em Minsk e permitiram que funcionários não
    emergenciais e familiares deixassem sua embaixada em Moscou nesta
    segunda-feira, enquanto a Rússia avançava com a invasão da Ucrânia pelo
    quinto dia. "Tomamos essas medidas devido a questões de segurança
    decorrentes do ataque não provocado e injustificado das forças militares
    russas na Ucrânia", disse o secretário de Estado Antony Blinken.
  example_title: Notícia 1
- text: >-
    Por Sam Nussey, da Reuters  O negócio de games da Sony mira novos
    investimentos para reforçar o impulso em PCs e dispositivos móveis, disse um
    executivo sênior do grupo, à medida que a fabricante do PlayStation 5
    compete por talentos com rivais endinheirados e em meio ao aumento de
    transações no setor. “Mais investimentos em áreas que fortalecerão a
    expansão para PC, dispositivos móveis e serviços ao vivo, essa é
    definitivamente uma possibilidade para nós”, disse Hermen Hulst, chefe da
    PlayStation Studios, em entrevista à Reuters, sem fornecer mais detalhes.
    Leia Mais A Sony, cujos estúdios são conhecidos por jogos de console ‘single
    player’ (para um jogador) como “Spider-Man” e “God of War”, delineou planos
    ambiciosos de lançar títulos para PC e dispositivos móveis e oferecer games
    de serviço ao vivo (‘live service games’), que fornecem contínua
    atualização. A mudança radical se reflete em seus recentes movimentos no
    mercado, incluindo a aquisição da Bungie, o estúdio por trás da franquia
    multijogador “Destiny”, por 3,6 bilhões de dólares. A Sony opera o estúdio
    fora de sua rede PlayStation Studios. Outros investimentos incluem a compra
    de uma participação minoritária na desenvolvedora japonesa FromSoftware,
    cujo jogo de ação no formato RPG “Elden Ring” vendeu mais de 16,6 milhões de
    unidades. A Sony também está produzindo um número crescente de adaptações de
    games, como o filme “Uncharted” neste ano, que arrecadou mais de 400 milhões
    de dólares em todo o mundo, e uma série de TV baseada na franquia “The Last
    of Us”, de seu estúdio Naughty Dog, que será lançada na HBO no próximo ano.
    Dado o escopo da transformação visada pelo negócio de games da Sony, os
    analistas esperam mais aquisições do grupo. “Acho que eles ainda vão
    adicionar estúdios”, disse Serkan Toto, fundador da consultoria Kantan
    Games. A força da rede de estúdios do PlayStation atraiu elogios como um
    diferencial importante em relação à fabricante do Xbox, a Microsoft, que
    está tentando comprar a Activision Blizzard em uma operação de 69 bilhões de
    dólares. O chefe de games da Sony, Jim Ryan, chegou a levantar objeções à
    operação diante do potencial impacto do mega-negócio nos usuários do
    PlayStation. “Se a Sony conseguir replicar o que fez com experiências single
    player, mas (com) experiências multijogador em diferentes plataformas, no
    PC, em consoles e talvez até nos celulares” será impossível prever o
    resultado, disse Toto, da Kantan Games, apontando para o sucesso de jogos
    online como Fortnite, da Epic Games. O impulso da Sony para outras
    plataformas ocorre enquanto o grupo luta para produzir unidades suficientes
    do PlayStation 5 devido a problemas na cadeia de suprimentos. Os estúdios
    internos da Sony também estão desenvolvendo títulos para a próxima geração
    dos óculos de realidade virtual PlayStation VR2, que devem ser lançados no
    início do próximo ano. Enquanto “Horizon Forbidden West”, lançado em
    fevereiro, é “um mundo aberto e isso não é necessariamente muito adequado
    para um jogo PSVR2”, a Sony está projetando títulos “sob medida” para o
    sistema, como “Horizon Call of the Mountain”, afirmou Hulst.
  example_title: Notícia 2
datasets:
- recogna-nlp/recognasumm
language:
- pt
pipeline_tag: summarization
---

# Portuguese T5 for Abstractive Summarization (PTT5 Summ)

## Introduction
PTT5 Summ is a fine-tuned [PTT5](https://github.com/unicamp-dl/PTT5) model to perform Abstractive Summarization in Brazilian Portuguese texts. This model was fine-tuned on the datasets: [RecognaSumm](https://huggingface.co/datasets/recogna-nlp/recognasumm), [WikiLingua](https://github.com/esdurmus/Wikilingua), [XL-Sum](https://github.com/csebuetnlp/xl-sum), [TeMário](http://www.nilc.icmc.usp.br/nilc/download/NILCTR0706-MazieroEtAl(2).pdf) and [CSTNews](http://nilc.icmc.usp.br/CSTNews/login/?next=/CSTNews/).

For further information, please go to [PTT5 Summ repository](https://github.com/pedropaiola/ptt5-summ).

## Available models
| Model                                                                                                | Dataset used in fine-tuning| 
| :-:                                                                                                  | :-:                        | 
| [recogna-nlp/ptt5-base-summ](https://huggingface.co/recogna-nlp/ptt5-base-summ)                            | [RecognaSumm](https://huggingface.co/datasets/recogna-nlp/recognasumm) |
| [recogna-nlp/ptt5-base-summ-wikilingua](https://huggingface.co/recogna-nlp/ptt5-base-summ-wikilingua)      | WikiLingua |
| [recogna-nlp/ptt5-base-summ-xlsum](https://huggingface.co/recogna-nlp/ptt5-base-summ-xlsum)                | XL-Sum     |
| [recogna-nlp/ptt5-base-summ-temario](https://huggingface.co/recogna-nlp/ptt5-base-summ-temario)            | 1st phase: WikiLingua. 2nd phase: TeMario |
| [recogna-nlp/ptt5-base-summ-cstnews](https://huggingface.co/recogna-nlp/ptt5-base-summ-cstnews)            | 1st phase: WikiLingua. 2nd phase: CSTNews|

## Usage example
```python
# Tokenizer 
from transformers import T5Tokenizer

# PyTorch model 
from transformers import T5Model, T5ForConditionalGeneration

token_name = 'unicamp-dl/ptt5-base-portuguese-vocab'
model_name = 'recogna-nlp/ptt5-base-summ'

tokenizer = T5Tokenizer.from_pretrained(token_name )
model_pt = T5ForConditionalGeneration.from_pretrained(model_name)

text = '''
“A tendência de queda da taxa de juros no Brasil é real, é visível”, disse Meirelles, que participou na capital americana de uma série de reuniões e encontros com banqueiros e investidores que aconteceram paralelamente às reuniões do Fundo Monetário Internacional (FMI) e do Banco Mundial (Bird) no fim de semana.
Para o presidente do BC, a atual política econômica do governo e a manutenção da taxa de inflação dentro da meta são fatores que garantem queda na taxa de juros a longo prazo.
“Mas é importante que nós não olhemos para isso apenas no curto prazo. Temos que olhar no médio e longo prazos”, disse Meirelles.
Para ele, o trabalho que o Banco Central tem feito para conter a inflação dentro da meta vai gerar queda gradual da taxa de juros.
BC do ano
Neste domingo, Meirelles participou da cerimônia de entrega do prêmio “Banco Central do ano”, oferecido pela revista The Banker à instituição que preside.
“Este é um sinal importante de reconhecimento do nosso trabalho, de que o Brasil está indo na direção correta”, disse ele.
Segundo Meirelles, o Banco Central do Brasil está sendo percebido como uma instituição comprometida com a meta de inflação.
“Isso tem um ganho importante, na medida em que os agentes formadores de preços começam a apostar que a inflação vai estar na meta, que isso é levado a sério no Brasil”, completou.
O presidente do Banco Central disse ainda que a crise política brasileira não foi um assunto de interesse prioritário dos investidores que encontrou no fim de semana.
'''

inputs = tokenizer.encode(text, max_length=512, truncation=True, return_tensors='pt')
summary_ids = model_pt.generate(inputs, max_length=256, min_length=32, num_beams=5, no_repeat_ngram_size=3, early_stopping=True)
summary = tokenizer.decode(summary_ids[0])
print(summary)
#<pad> Meirelles diz que tendência de queda da taxa de juros no Brasil é real e é visível. Presidente do Banco Central do Brasil participou de cerimônia de entrega do prêmio ‘Banco Central do ano’ à instituição que preside.</s>

```

# Citation

## Deep Learning-Based Abstractive Summarization for Brazilian Portuguese Texts (PROPOR 2022)


```
@aInProceedings{ptt5summ_bracis,
  author="Paiola, Pedro H.
    and de Rosa, Gustavo H.
    and Papa, Jo{\~a}o P.",
  editor="Xavier-Junior, Jo{\~a}o Carlos
    and Rios, Ricardo Ara{\'u}jo",
  title="Deep Learning-Based Abstractive Summarization for Brazilian Portuguese Texts",
  booktitle="BRACIS 2022: Intelligent Systems",
  year="2022",
  publisher="Springer International Publishing",
  address="Cham",
  pages="479--493",
  isbn="978-3-031-21689-3"}

```

## RecognaSumm: A Novel Brazilian Summarization Dataset (PROPOR 2024)

```
@inproceedings{paiola-etal-2024-recognasumm,
    title = "{R}ecogna{S}umm: A Novel {B}razilian Summarization Dataset",
    author = "Paiola, Pedro Henrique  and
      Garcia, Gabriel Lino  and
      Jodas, Danilo Samuel  and
      Correia, Jo{\~a}o Vitor Mariano  and
      Sugi, Luis Afonso  and
      Papa, Jo{\~a}o Paulo",
    editor = "Gamallo, Pablo  and
      Claro, Daniela  and
      Teixeira, Ant{\'o}nio  and
      Real, Livy  and
      Garcia, Marcos  and
      Oliveira, Hugo Gon{\c{c}}alo  and
      Amaro, Raquel",
    booktitle = "Proceedings of the 16th International Conference on Computational Processing of Portuguese - Vol. 1",
    month = mar,
    year = "2024",
    address = "Santiago de Compostela, Galicia/Spain",
    publisher = "Association for Computational Lingustics",
    url = "https://aclanthology.org/2024.propor-1.63",
    pages = "575--579",
}
```