Spaces:
Build error
Build error
# Où stocker les modèles dans le conteneur | |
MODELS_DIR=/models | |
# Modèle actif au boot (si le fichier existe déjà) — peut rester vide | |
#MODEL_PATH=/models/gemma-3-270m-it-Q4_K_M.gguf | |
MODEL_PATH= | |
# Auto-load si le fichier manque : | |
AUTO_REPO_ID=unsloth/gemma-3-270m-it-GGUF | |
AUTO_FILENAME=gemma-3-270m-it-Q8_0.gguf | |
AUTO_IF_MISSING=true # ne télécharge que si MODEL_PATH (ou /models/<AUTO_FILENAME>) est absent | |
AUTO_PRELOAD=false # si true, charge en mémoire au démarrage (sinon lazy) | |
# Inference | |
N_THREADS=8 | |
N_CTX=4096 | |
N_BATCH=256 | |
N_GPU_LAYERS=0 | |
# Réseau | |
HOST=0.0.0.0 | |
PORT=7860 | |