Instructions to use eglantinefonrose/lsf-gemma9b with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use eglantinefonrose/lsf-gemma9b with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf eglantinefonrose/lsf-gemma9b:Q4_K_M # Run inference directly in the terminal: llama cli -hf eglantinefonrose/lsf-gemma9b:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf eglantinefonrose/lsf-gemma9b:Q4_K_M # Run inference directly in the terminal: llama cli -hf eglantinefonrose/lsf-gemma9b:Q4_K_M
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf eglantinefonrose/lsf-gemma9b:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf eglantinefonrose/lsf-gemma9b:Q4_K_M
Use Docker
docker model run hf.co/eglantinefonrose/lsf-gemma9b:Q4_K_M
- Llama new
- LM Studio
- Jan
- Ollama
How to use eglantinefonrose/lsf-gemma9b with Ollama:
ollama run hf.co/eglantinefonrose/lsf-gemma9b:Q4_K_M
- Unsloth Desktop
- Docker Model Runner
How to use eglantinefonrose/lsf-gemma9b with Docker Model Runner:
docker model run hf.co/eglantinefonrose/lsf-gemma9b:Q4_K_M
- Lemonade
How to use eglantinefonrose/lsf-gemma9b with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull eglantinefonrose/lsf-gemma9b:Q4_K_M
Run and chat with the model
lemonade run user.lsf-gemma9b-Q4_K_M
List all available models
lemonade list
- Atomic Chat
LSF gloss translator — v1
Adaptateur LoRA pour la traduction français → glose LSF, entraîné sur
un dataset synthétique (distillation) au-dessus de mlx-community/gemma-2-9b-it-4bit.
⚠️ Expérimental. Données générées par un modèle professeur, non validées par un locuteur LSF. À ne pas utiliser comme vérité terrain.
Provenance
- Professeur :
claude-opus-5-5 (rédaction manuelle, conventions v1, 100 % français) - prompt_hash :
b9f4c4860f4a - Exemples : 408 train / 45 valid (accepté 453)
- Dataset synthétique : True, validé humain : False
- Variante :
gemma-no-systemdérivée de2184f8f3751e(system fusionné en tête du 1er message user (Gemma 2 n'a pas de rôle system)) - Entraîné le : 2026-10-27T12:08:21+0100 → 2026-10-27T14:06:35+0100
- Dataset d'entraînement (sha) :
eaa7c0947e75 - Durée d'entraînement : 1h58m14s
- Hyperparamètres : iters=500, num_layers=4, learning_rate=0.0001, batch_size=1, mask_prompt=True, grad_checkpoint=True, val_batches=10
- Val loss finale : 0.193
- Dataset :
eglantinefonrose/lsf-fr-gloss@ 2184f8f3751e
Évaluation
Mesuré avec eval/evaluate.py sur eval/dataset.jsonl (sha aa78d1a41ef9, 74 phrases).
| Prompt | Exact | F1 | Ordre | Fuites |
|---|---|---|---|---|
| prod (règles + few-shot) | 35% | 0.828 | 0.747 | 1 |
| règles seules (prompt d'entraînement) | 15% | 0.769 | 0.668 | 1 |
Format du prompt
Gemma 2 n'a pas de rôle system : à l'entraînement, les règles LSF
(TRAIN_SYSTEM) sont placées en tête du premier message user, suivies
d'une ligne vide puis de la phrase. Le Modelfile fourni reproduit ce
rendu pour Ollama : envoie system + user normalement, il les fusionne.
Usage (Ollama)
gguf/lsf-gemma9b-v1-Q4_K_M.gguf (GGUF, llama.cpp) + Modelfile (template et règles LSF) :
huggingface-cli download eglantinefonrose/lsf-gemma9b --local-dir lsf-model
cd lsf-model && ollama create lsf -f Modelfile
Usage (MLX)
uv run mlx_lm.generate --model mlx-community/gemma-2-9b-it-4bit \
--adapter-path adapters --prompt "..."
Licence
Gemma is provided under and subject to the Gemma Terms of Use found at ai.google.dev/gemma/terms.
Ce modèle est une modification de Gemma 2 (adaptateur LoRA entraîné sur des gloses LSF). Son usage est soumis aux mêmes conditions, dont la Gemma Prohibited Use Policy, à transmettre à toute personne à qui tu redistribues ces poids.
Publié le 2026-10-27.
- Downloads last month
- 26
4-bit
Model tree for eglantinefonrose/lsf-gemma9b
Base model
mlx-community/gemma-2-9b-it-4bit