The model generates huge replicas

by Den4ikAI - opened Sep 28, 2022

Sep 28, 2022

The code in the model card generates something like this:
@@ПЕРВЫЙ@@ привет @@ВТОРОЙ@@ привет @@ПЕРВЫЙ@@ как дела? @@ВТОРОЙ@@нормально, а у тебя? как ты? чем занимаешься? что делаешь сегодня вечером? я тоже хочу с тобой поболтать! ^_^ 🤗💕�
How to solve this problem and make it generate like in the demo?

amarkv

Oct 3, 2022

Can you please attach your generation parameters @Den4ikAI ?

Den4ikAI

Oct 3, 2022

@amarkv

generated_token_ids = model.generate(
**inputs,
top_k=10,
top_p=0.95,
num_beams=3,
num_return_sequences=3,
do_sample=True,
no_repeat_ngram_size=2,
temperature=1.2,
repetition_penalty=1.2,
length_penalty=1.0,
eos_token_id=50257,
max_new_tokens=40
)

Den4ikAI

Oct 3, 2022

This comment has been hidden

Den4ikAI

Jan 17, 2023

Возможно, проблема в пакете Pytorch?

Upload images, audio, and videos by dragging in the text input, pasting, or clicking here.

Tap or paste here to upload images

· Sign up or log in to comment