efederici commited on
Commit
511fbba
·
1 Parent(s): 2fa23bf

Upload README

Browse files
Files changed (1) hide show
  1. README.md +49 -0
README.md ADDED
@@ -0,0 +1,49 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - it
4
+ datasets:
5
+ - custom
6
+ ---
7
+ # it5-efficient-small-lfqa
8
+
9
+ It is a T5 ([IT5](https://huggingface.co/stefan-it/it5-efficient-small-el32)) efficient small model trained on a lfqa dataset.
10
+
11
+ <p align="center">
12
+ <img src="https://www.marcorossiartecontemporanea.net/wp-content/uploads/2021/04/MARCTM0413-9CFBn1gs-scaled.jpg" width="400"> </br>
13
+ Mirco Marchelli, Voce in capitolo, 2019
14
+ </p>
15
+
16
+ ## Training Data
17
+
18
+ This model was trained on a lfqa dataset. The model provides long-form answers to open domain questions.
19
+
20
+ ## Usage and Performance
21
+ ```python
22
+ import torch
23
+ from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
24
+ tokenizer = AutoTokenizer.from_pretrained("efederici/it5-efficient-small-lfqa")
25
+ model = AutoModelForSeq2SeqLM.from_pretrained("efederici/it5-efficient-small-lfqa")
26
+ query = "con chi si era messo in contatto elon musk?"
27
+ # concatenated texts/document text
28
+ doc = """
29
+ La notizia dell’acquisizione da parte di Elon Musk del 9,2 per cento delle azioni di Twitter e del suo successivo ingresso nel consiglio di amministrazione della società hanno attirato grandi attenzioni, non solo da parte degli analisti finanziari, ma anche di chi si occupa di social media e del modo in cui viene impiegata la piattaforma da centinaia di milioni di persone in tutto il mondo. Musk, che ha un grande seguito su Twitter, in passato aveva più volte criticato il social network, accusandolo di non tutelare a sufficienza le libertà di espressione, anche in casi limite come l’assalto al Congresso degli Stati Uniti del 2021.
30
+ Alcune settimane fa, Musk si era messo in contatto con Parag Agrawal, CEO di Twitter da fine novembre 2021, e con il suo predecessore e cofondatore della società, Jack Dorsey, annunciando di avere avviato l’acquisizione di alcune quote dell’azienda e di essere disponibile per discutere di soluzioni per migliorarla. Secondo fonti del New York Times, dopo i primi contatti, Agrawal aveva proposto a Musk di avere un ruolo più attivo oltre a quello di azionista, offrendogli la possibilità di entrare nel consiglio di amministrazione.
31
+ """
32
+ query_and_docs = f"Domanda: {query} Contesto: {doc}"
33
+ model_input = tokenizer(query_and_docs, truncation=True, padding=True, return_tensors="pt")
34
+ output = model.generate(input_ids=model_input["input_ids"],
35
+ attention_mask=model_input["attention_mask"],
36
+ min_length=10,
37
+ max_length=256,
38
+ do_sample=False,
39
+ early_stopping=True,
40
+ num_beams=8,
41
+ temperature=1.0,
42
+ top_k=None,
43
+ top_p=None,
44
+ no_repeat_ngram_size=3,
45
+ num_return_sequences=1)
46
+
47
+ tokenizer.batch_decode(output, skip_special_tokens=True, clean_up_tokenization_spaces=True)
48
+ ```
49
+ The model will predict an answer.