LSGHOST/Arx-1.0-Fast-GGUF

ARX 1.0 Fast (GGUF)

Criador: Lucas Simioni Schiavan

Instrucoes privadas: True

Arquitetura de Origem

• model_type interno (Safetensors): arx10fast
• Classe interna (Safetensors): Arx10FastForCausalLM
• Arquitetura base usada na conversao GGUF: Qwen3_5ForConditionalGeneration (qwen3_5)

Sobre

Modelo em formato GGUF gerado pelo Alpha AI Factory a partir da versao Safetensors de ARX 1.0 Fast. Compativel com llama.cpp e llama-cpp-python.

Arquivos

• *-Q4_K_M.gguf (preferencial, quantizado para CPU)
• *-F16.gguf (fallback quando o quantizador nao esta presente)

Como rodar

pip install llama-cpp-python

from llama_cpp import Llama
llm = Llama(model_path="./ARX 1.0 Fast-Q4_K_M.gguf", n_ctx=8192)
print(llm("Quem e voce?", max_tokens=64)["choices"][0]["text"])

Ou diretamente no llama.cpp:

./llama-cli -m ARX 1.0 Fast-Q4_K_M.gguf -p "Quem e voce?" -n 64

Gerado por Alpha AI Factory.