GGUF

Skwantyzowane pliki polskich modeli Qra-1b, Qra-7b, Qra-13b z Politechniki Gdańskiej z ich pierwszych wersji dostępnych na profilu autorów - https://huggingface.co/OPI-PG


... check the files secions...

Downloads last month
8
GGUF
Model size
7B params
Architecture
llama
Hardware compatibility
Log In to add your hardware

4-bit

5-bit

6-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support