Instructions to use Felipe0282829273/nilo-revisor-360m with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use Felipe0282829273/nilo-revisor-360m with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf Felipe0282829273/nilo-revisor-360m:Q8_0 # Run inference directly in the terminal: llama cli -hf Felipe0282829273/nilo-revisor-360m:Q8_0
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf Felipe0282829273/nilo-revisor-360m:Q8_0 # Run inference directly in the terminal: llama cli -hf Felipe0282829273/nilo-revisor-360m:Q8_0
Use pre-built binary
# Download pre-built binary from: # https://github.com/ggerganov/llama.cpp/releases # Start a local OpenAI-compatible server with a web UI: ./llama-server -hf Felipe0282829273/nilo-revisor-360m:Q8_0 # Run inference directly in the terminal: ./llama-cli -hf Felipe0282829273/nilo-revisor-360m:Q8_0
Build from source code
git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-server llama-cli # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama-server -hf Felipe0282829273/nilo-revisor-360m:Q8_0 # Run inference directly in the terminal: ./build/bin/llama-cli -hf Felipe0282829273/nilo-revisor-360m:Q8_0
Use Docker
docker model run hf.co/Felipe0282829273/nilo-revisor-360m:Q8_0
- LM Studio
- Jan
- vLLM
How to use Felipe0282829273/nilo-revisor-360m with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Felipe0282829273/nilo-revisor-360m" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Felipe0282829273/nilo-revisor-360m", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/Felipe0282829273/nilo-revisor-360m:Q8_0
- Ollama
How to use Felipe0282829273/nilo-revisor-360m with Ollama:
ollama run hf.co/Felipe0282829273/nilo-revisor-360m:Q8_0
- Unsloth Studio
How to use Felipe0282829273/nilo-revisor-360m with Unsloth Studio:
Install Unsloth Studio (macOS, Linux, WSL)
curl -fsSL https://unsloth.ai/install.sh | sh # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for Felipe0282829273/nilo-revisor-360m to start chatting
Install Unsloth Studio (Windows)
irm https://unsloth.ai/install.ps1 | iex # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for Felipe0282829273/nilo-revisor-360m to start chatting
Using HuggingFace Spaces for Unsloth
# No setup required # Open https://huggingface.co/spaces/unsloth/studio in your browser # Search for Felipe0282829273/nilo-revisor-360m to start chatting
- Docker Model Runner
How to use Felipe0282829273/nilo-revisor-360m with Docker Model Runner:
docker model run hf.co/Felipe0282829273/nilo-revisor-360m:Q8_0
- Lemonade
How to use Felipe0282829273/nilo-revisor-360m with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull Felipe0282829273/nilo-revisor-360m:Q8_0
Run and chat with the model
lemonade run user.nilo-revisor-360m-Q8_0
List all available models
lemonade list
- Atomic Chat
Nilo — revisor de fala do Andar 10
Revisor de uma tarefa só: recebe uma frase errada dita por um NPC, o motivo pelo qual ela está errada, e devolve a frase corrigida — na voz do personagem. Não é um assistente e não responde perguntas.
Feito para The Normal Elevator, um jogo de terror em navegador cujo NPC do 10º andar roda inteiramente no aparelho do jogador. O revisor é a peça que conserta o que o rascunhador escreve fora do cânone.
- Base: SmolLM2-360M-Instruct
- Treino: LoRA (r=32) sobre 192 pares (frase errada + motivo) → (frase certa)
- Formato: gguf q8_0, 386 MB — carrega em ~7 s no wllama, sem GPU
Como ele é chamado
sistema: You are Nilo Azevedo, a human guest trapped on the 10th floor of the
hotel "The Normal Elevator": a grey room, four walls, a grate floor,
the elevator door. You are dry, observant, and nobody's helper.
usuário: The player asked: "<pergunta>"
Wrong line: "<frase errada>"
It is wrong because <motivo>
Corrected line:
Geração gulosa (temperature 0): conserto é escolha, não sorteio.
O que ele faz, medido
Prova de 24 defeitos × 2 rodadas, a frio, contra o mesmo modelo sem treino, no mesmo enunciado e no mesmo arquivo:
| conserta | ecoou | copiou | quebrou o cânone | |
|---|---|---|---|---|
| SmolLM2-360M sem treino | 8/48 | 18 | 10 | 28 |
| este | 44/48 | 2 | 0 | 0 |
O que ele NÃO faz
Com 192 pares de treino ele aprendeu o cânone e a forma, não a coerência. Numa leitura humana das 24 saídas, cerca de oito ainda são frases plausíveis e erradas — "a few steps from a door that does not exist" (a porta existe, ela só não abre) ou "a flat expanse of grey stone" (o chão é grade de metal). Régua automática não pega esse tipo de erro; leia as saídas.
É uma prova de que o caminho funciona, não um modelo final.
- Downloads last month
- 25
8-bit
Model tree for Felipe0282829273/nilo-revisor-360m
Base model
HuggingFaceTB/SmolLM2-360M