Update README.md

README.md

@@ -1,3 +1,79 @@
 ---
-license: apache-2.0
+annotations_creators: []
+language:
+- ro
+language_creators:
+- machine-generated
+license: 
+- apache-2.0
+multilinguality:
+- monolingual
+pretty_name: BlackKakapo/t5-base-paraphrase-ro
+size_categories:
+- 10K<n<100K
+source_datasets:
+- original
+tags: []
+task_categories:
+- text2text-generation
+task_ids: []
 ---
+# Romanian paraphrase
+
+![v2.0](https://img.shields.io/badge/V.2-19.08.2022-brightgreen)
+
+Fine-tune t5-base-paraphrase-ro model for paraphrase. Since there is no Romanian dataset for paraphrasing, I had to create my own [dataset](https://huggingface.co/datasets/BlackKakapo/paraphrase-ro-v2). The dataset contains ~30k examples.
+
+### How to use
+
+```python
+from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
+
+tokenizer = AutoTokenizer.from_pretrained("BlackKakapo/t5-base-paraphrase-ro-v2")
+model = AutoModelForSeq2SeqLM.from_pretrained("BlackKakapo/t5-base-paraphrase-ro-v2")
+```
+
+### Or
+
+```python
+from transformers import T5ForConditionalGeneration, T5TokenizerFast 
+
+model = T5ForConditionalGeneration.from_pretrained("BlackKakapo/t5-base-paraphrase-ro-v2")
+tokenizer = T5TokenizerFast.from_pretrained("BlackKakapo/t5-base-paraphrase-ro-v2")
+```
+
+### Generate
+
+```python
+text = "Într-un interviu pentru Radio Europa Liberă România, acesta a menționat că Bucureștiul este pregătit oricând și ar dura doar o oră de la solicitare, până când gazele ar ajunge la Chișinău."
+
+encoding = tokenizer.encode_plus(text, pad_to_max_length=True, return_tensors="pt")
+input_ids, attention_masks = encoding["input_ids"], encoding["attention_mask"]
+
+beam_outputs = model.generate(
+    input_ids=input_ids, 
+    attention_mask=attention_masks,
+    do_sample=True,
+    max_length=256,
+    top_k=20,
+    top_p=0.9,
+    early_stopping=False,
+    num_return_sequences=5
+)
+
+final_outputs = []
+
+for beam_output in beam_outputs:
+    text_para = tokenizer.decode(beam_output, skip_special_tokens=True,clean_up_tokenization_spaces=True)
+    
+    if text.lower() != text_para.lower() or text not in final_outputs:
+        final_outputs.append(text_para)
+        
+
+print(final_outputs)      
+```
+### Output
+
+```out
+['Într-un interviu cu Radio Europa Liberă România, el a spus că Bucureștiul este pregătit în orice moment și ar dura doar o oră de la cererea până când gazele ar ajunge la Chișinău.']
+```