ptt5-base-summ / README.md
phpaiola's picture
Update README.md
1410e16 verified
metadata
license: mit
tags:
  - t5
  - pytorch
  - pt
  - pt-br
  - summarization
  - abstractive summarization
inference:
  parameters:
    min_length: 32
    max_length: 256
    top_k: 5
widget:
  - text: >-
      Os americanos não devem se preocupar com a guerra nuclear, disse o
      presidente dos EUA, Joe Biden, nesta segunda-feira (28). A fala vem um dia
      depois que o presidente russo, Vladimir Putin, colocou as equipes
      nucleares da Rússia em alerta máximo. Os Estados Unidos disseram nesta
      segunda que não detectaram nenhuma mudança "concreta" na posição nuclear
      da Rússia. "Ainda estamos monitorando e acompanhando a questão muito de
      perto", disse um alto funcionário do Pentágono a repórteres, um dia após o
      anúncio do presidente russo. "Não acredito que vimos nada de concreto como
      resultado de sua decisão. Pelo menos não por enquanto", acrescentou. O
      funcionário reconheceu que era "difícil saber o que estava por trás da
      ordem de Putin". Mas "o simples fato de mencionar" ou "ameaçar" com um
      "uso de forças nucleares" é "inútil e representa uma escalada
      significativa" na invasão à sua vizinha Ucrânia, lamentou, reafirmando que
      a Otan "nunca" ameaçou a Rússia. Leia também Por que os Estados Unidos não
      entram na guerra contra a Rússia? Putin pode apertar o botão nuclear? Veja
      o que mais você precisa saber sobre a guerra na Ucrânia No domingo,
      Belarus, aliada da Rússia, realizou um referendo que elimina a obrigação
      de que a ex-república soviética permaneça uma "zona livre de armas
      nucleares". As potências ocidentais denunciaram essa medida, que acreditam
      permitir que Moscou transfira armas nucleares para Belarus, outro vizinho
      da Ucrânia e que também faz fronteira com vários países da Aliança
      Atlântica. Quando perguntado se movimentos desse tipo foram observados, o
      funcionário do Pentágono respondeu que "não". Ele também assegurou que, no
      momento, não há evidências de que haja soldados belarussos na Ucrânia como
      reforço das forças russas. "Até onde sabemos, as forças que entraram na
      Ucrânia são todas russas", disse ele, acrescentando que Moscou levou para
      o território ucraniano "quase 75%" das forças de combate concentradas na
      fronteira nos últimos meses. EUA fecham embaixada em Belarus Os EUA
      fecharam sua embaixada em Minsk e permitiram que funcionários não
      emergenciais e familiares deixassem sua embaixada em Moscou nesta
      segunda-feira, enquanto a Rússia avançava com a invasão da Ucrânia pelo
      quinto dia. "Tomamos essas medidas devido a questões de segurança
      decorrentes do ataque não provocado e injustificado das forças militares
      russas na Ucrânia", disse o secretário de Estado Antony Blinken.
    example_title: Notícia 1
  - text: >-
      Por Sam Nussey, da Reuters  O negócio de games da Sony mira novos
      investimentos para reforçar o impulso em PCs e dispositivos móveis, disse
      um executivo sênior do grupo, à medida que a fabricante do PlayStation 5
      compete por talentos com rivais endinheirados e em meio ao aumento de
      transações no setor. “Mais investimentos em áreas que fortalecerão a
      expansão para PC, dispositivos móveis e serviços ao vivo, essa é
      definitivamente uma possibilidade para nós”, disse Hermen Hulst, chefe da
      PlayStation Studios, em entrevista à Reuters, sem fornecer mais detalhes.
      Leia Mais A Sony, cujos estúdios são conhecidos por jogos de console
      ‘single player’ (para um jogador) como “Spider-Man” e “God of War”,
      delineou planos ambiciosos de lançar títulos para PC e dispositivos móveis
      e oferecer games de serviço ao vivo (‘live service games’), que fornecem
      contínua atualização. A mudança radical se reflete em seus recentes
      movimentos no mercado, incluindo a aquisição da Bungie, o estúdio por trás
      da franquia multijogador “Destiny”, por 3,6 bilhões de dólares. A Sony
      opera o estúdio fora de sua rede PlayStation Studios. Outros investimentos
      incluem a compra de uma participação minoritária na desenvolvedora
      japonesa FromSoftware, cujo jogo de ação no formato RPG “Elden Ring”
      vendeu mais de 16,6 milhões de unidades. A Sony também está produzindo um
      número crescente de adaptações de games, como o filme “Uncharted” neste
      ano, que arrecadou mais de 400 milhões de dólares em todo o mundo, e uma
      série de TV baseada na franquia “The Last of Us”, de seu estúdio Naughty
      Dog, que será lançada na HBO no próximo ano. Dado o escopo da
      transformação visada pelo negócio de games da Sony, os analistas esperam
      mais aquisições do grupo. “Acho que eles ainda vão adicionar estúdios”,
      disse Serkan Toto, fundador da consultoria Kantan Games. A força da rede
      de estúdios do PlayStation atraiu elogios como um diferencial importante
      em relação à fabricante do Xbox, a Microsoft, que está tentando comprar a
      Activision Blizzard em uma operação de 69 bilhões de dólares. O chefe de
      games da Sony, Jim Ryan, chegou a levantar objeções à operação diante do
      potencial impacto do mega-negócio nos usuários do PlayStation. “Se a Sony
      conseguir replicar o que fez com experiências single player, mas (com)
      experiências multijogador em diferentes plataformas, no PC, em consoles e
      talvez até nos celulares” será impossível prever o resultado, disse Toto,
      da Kantan Games, apontando para o sucesso de jogos online como Fortnite,
      da Epic Games. O impulso da Sony para outras plataformas ocorre enquanto o
      grupo luta para produzir unidades suficientes do PlayStation 5 devido a
      problemas na cadeia de suprimentos. Os estúdios internos da Sony também
      estão desenvolvendo títulos para a próxima geração dos óculos de realidade
      virtual PlayStation VR2, que devem ser lançados no início do próximo ano.
      Enquanto “Horizon Forbidden West”, lançado em fevereiro, é “um mundo
      aberto e isso não é necessariamente muito adequado para um jogo PSVR2”, a
      Sony está projetando títulos “sob medida” para o sistema, como “Horizon
      Call of the Mountain”, afirmou Hulst.
    example_title: Notícia 2
datasets:
  - recogna-nlp/recognasumm
language:
  - pt
pipeline_tag: summarization

Portuguese T5 for Abstractive Summarization (PTT5 Summ)

Introduction

PTT5 Summ is a fine-tuned PTT5 model to perform Abstractive Summarization in Brazilian Portuguese texts. This model was fine-tuned on the datasets: RecognaSumm, WikiLingua, XL-Sum, TeMário and CSTNews.

For further information, please go to PTT5 Summ repository.

Available models

Model Dataset used in fine-tuning
recogna-nlp/ptt5-base-summ RecognaSumm
recogna-nlp/ptt5-base-summ-wikilingua WikiLingua
recogna-nlp/ptt5-base-summ-xlsum XL-Sum
recogna-nlp/ptt5-base-summ-temario 1st phase: WikiLingua. 2nd phase: TeMario
recogna-nlp/ptt5-base-summ-cstnews 1st phase: WikiLingua. 2nd phase: CSTNews

Usage example

# Tokenizer 
from transformers import T5Tokenizer

# PyTorch model 
from transformers import T5Model, T5ForConditionalGeneration

token_name = 'unicamp-dl/ptt5-base-portuguese-vocab'
model_name = 'recogna-nlp/ptt5-base-summ'

tokenizer = T5Tokenizer.from_pretrained(token_name )
model_pt = T5ForConditionalGeneration.from_pretrained(model_name)

text = '''
“A tendência de queda da taxa de juros no Brasil é real, é visível”, disse Meirelles, que participou na capital americana de uma série de reuniões e encontros com banqueiros e investidores que aconteceram paralelamente às reuniões do Fundo Monetário Internacional (FMI) e do Banco Mundial (Bird) no fim de semana.
Para o presidente do BC, a atual política econômica do governo e a manutenção da taxa de inflação dentro da meta são fatores que garantem queda na taxa de juros a longo prazo.
“Mas é importante que nós não olhemos para isso apenas no curto prazo. Temos que olhar no médio e longo prazos”, disse Meirelles.
Para ele, o trabalho que o Banco Central tem feito para conter a inflação dentro da meta vai gerar queda gradual da taxa de juros.
BC do ano
Neste domingo, Meirelles participou da cerimônia de entrega do prêmio “Banco Central do ano”, oferecido pela revista The Banker à instituição que preside.
“Este é um sinal importante de reconhecimento do nosso trabalho, de que o Brasil está indo na direção correta”, disse ele.
Segundo Meirelles, o Banco Central do Brasil está sendo percebido como uma instituição comprometida com a meta de inflação.
“Isso tem um ganho importante, na medida em que os agentes formadores de preços começam a apostar que a inflação vai estar na meta, que isso é levado a sério no Brasil”, completou.
O presidente do Banco Central disse ainda que a crise política brasileira não foi um assunto de interesse prioritário dos investidores que encontrou no fim de semana.
'''

inputs = tokenizer.encode(text, max_length=512, truncation=True, return_tensors='pt')
summary_ids = model_pt.generate(inputs, max_length=256, min_length=32, num_beams=5, no_repeat_ngram_size=3, early_stopping=True)
summary = tokenizer.decode(summary_ids[0])
print(summary)
#<pad> Meirelles diz que tendência de queda da taxa de juros no Brasil é real e é visível. Presidente do Banco Central do Brasil participou de cerimônia de entrega do prêmio ‘Banco Central do ano’ à instituição que preside.</s>

Citation

Deep Learning-Based Abstractive Summarization for Brazilian Portuguese Texts (PROPOR 2022)

@aInProceedings{ptt5summ_bracis,
  author="Paiola, Pedro H.
    and de Rosa, Gustavo H.
    and Papa, Jo{\~a}o P.",
  editor="Xavier-Junior, Jo{\~a}o Carlos
    and Rios, Ricardo Ara{\'u}jo",
  title="Deep Learning-Based Abstractive Summarization for Brazilian Portuguese Texts",
  booktitle="BRACIS 2022: Intelligent Systems",
  year="2022",
  publisher="Springer International Publishing",
  address="Cham",
  pages="479--493",
  isbn="978-3-031-21689-3"}

RecognaSumm: A Novel Brazilian Summarization Dataset (PROPOR 2024)

@inproceedings{paiola-etal-2024-recognasumm,
    title = "{R}ecogna{S}umm: A Novel {B}razilian Summarization Dataset",
    author = "Paiola, Pedro Henrique  and
      Garcia, Gabriel Lino  and
      Jodas, Danilo Samuel  and
      Correia, Jo{\~a}o Vitor Mariano  and
      Sugi, Luis Afonso  and
      Papa, Jo{\~a}o Paulo",
    editor = "Gamallo, Pablo  and
      Claro, Daniela  and
      Teixeira, Ant{\'o}nio  and
      Real, Livy  and
      Garcia, Marcos  and
      Oliveira, Hugo Gon{\c{c}}alo  and
      Amaro, Raquel",
    booktitle = "Proceedings of the 16th International Conference on Computational Processing of Portuguese - Vol. 1",
    month = mar,
    year = "2024",
    address = "Santiago de Compostela, Galicia/Spain",
    publisher = "Association for Computational Lingustics",
    url = "https://aclanthology.org/2024.propor-1.63",
    pages = "575--579",
}