"artifacts"
#3
by
skoll520
- opened
to enfrentando um problema aqui relacionado a palavras repetidas no final do resultado da inferência, mesmo mexendo no repetition penalty parece nao resolver, e essas palavras são bem aleatórias, podendo aparecer até em idioma russo.
Consigo improvisar aqui removendo com regex, mas o ponto é que gerar elas tem custo de desempenho pra IA e não são úteis pra mim. O que você sugere?