mt5-base-xlsum-9lang

Модель google/mt5-base, обученная суммаризации новостей на девяти языках XL-Sum. Модель пишет короткое резюме новости на языке статьи: русский, английский, испанский, хинди, арабский, китайский (упрощ.), турецкий, индонезийский, вьетнамский.

Как запустить

.venv/bin/python tools/summarize.py \
  --model rolSof/mt5-base-xlsum-9lang \
  --file article.txt

Обучение

  • Исходная модель: google/mt5-base
  • Данные: XL-Sum v2.0, по 20000 статей train на каждый из 9 языков
  • Эпох: 2, lr 0.0005, batch 16×2, label smoothing 0.1, fp16
  • Железо: 2× T4 (Kaggle), 10.0 ч
Downloads last month
44
Safetensors
Model size
0.6B params
Tensor type
F32
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for rolSof/mt5-base-xlsum-9lang

Base model

google/mt5-base
Finetuned
(296)
this model

Dataset used to train rolSof/mt5-base-xlsum-9lang