GGUF
#4
by
mzoltan77
- opened
Sziasztok!
Lehetne valahogy .gguf formátumot csinálni a bin fileokból? (Nem igazán értek hozzá, de arra lenne szükségem egy teszteléshez.) :-)
Üdvözlöm!
Sajnos jelenleg most nincsen kapacitásunk ilyen irányba menni, a TheBloke csinált ilyen jellegű modelleket az egynyelvű PULI-ból, esetleg meg lehet tőlük kérdezni, hogy nem terveznek-e továbbiakat készíteni:
https://huggingface.co/TheBloke/PULI-GPT-3SX-GPTQ
https://huggingface.co/TheBloke/PULI-GPT-3SX-GGML