Proszę o Poziomkę w wersji GGUF (Model konwersacyjny)
#1
by 14ai - opened
Witaj ! Bardzo cenię twój projekt i chciałbym go przetestować. Czy model generuje spójny tekst i czy mógłbym poprosić o warianty GGUF dla LM studio ? Jak tak to byłbym bardzo wdzięczny :)
14ai changed discussion title from Proszę o Poziomkę w wersji GGUF to Proszę o Poziomkę w wersji GGUF (Model do generowania tekstu)
14ai changed discussion title from Proszę o Poziomkę w wersji GGUF (Model do generowania tekstu) to Proszę o Poziomkę w wersji GGUF (Model konwersacyjny)
Tekst jest w miarę spójny przez 2-3 tury, potem się rozjeżdza. Kiedyś miałem problem ze zrobieniem GGUF przez liczbę ekspertów aktywnych na raz (32 na 128) i tokenizer, ale spróbuję jeszczę raz.