Geraldine's picture
Update .env
ceca8d9 verified
raw
history blame contribute delete
598 Bytes
# Où stocker les modèles dans le conteneur
MODELS_DIR=/models
# Modèle actif au boot (si le fichier existe déjà) — peut rester vide
#MODEL_PATH=/models/gemma-3-270m-it-Q4_K_M.gguf
MODEL_PATH=
# Auto-load si le fichier manque :
AUTO_REPO_ID=unsloth/gemma-3-270m-it-GGUF
AUTO_FILENAME=gemma-3-270m-it-Q8_0.gguf
AUTO_IF_MISSING=true # ne télécharge que si MODEL_PATH (ou /models/<AUTO_FILENAME>) est absent
AUTO_PRELOAD=false # si true, charge en mémoire au démarrage (sinon lazy)
# Inference
N_THREADS=8
N_CTX=4096
N_BATCH=256
N_GPU_LAYERS=0
# Réseau
HOST=0.0.0.0
PORT=7860