Mortxm/lligma-tutor

LLigMA Tutor — weights e codice per il Tutor citato (pass 2 SFT)

Modello LLigMA (386,7 M parametri) con fine-tuning SFT per il compito di riscrittura guardata del Tutor (versione "pass 2", la migliore misurata sul set di lancio di 20 domande: 9/20 bozze accettate dal guard invariato; quando la bozza non passa il guard viene servita la baseline estrattiva, sempre citata e ancorata alle fonti; fuori dominio si astiene). CC0.

Contenuto

• lligma/ — pacchetto Python (modello, tutor, server Alessandria)
• configs/ — configurazioni (tutor.yaml incluso)
• index/tutor-index.json — indice di retrieval del Tutor (58 documenti, 906 passage)
• outputs/rewrite/ — pesi SFT pass 2 (sha256 bdaa098e…, 1.546.924.864 byte)
• web/model/index.html — client web (pannello bozza LLigMa + fonti)

Avvio (CPU, ~2-3 GB di RAM)

pip install torch --index-url https://download.pytorch.org/whl/cpu
pip install "transformers>=4.45,<5" "safetensors>=0.4" "tokenizers>=0.19" "numpy>=1.26" PyYAML
python -m lligma.model.server --device cpu --model outputs/rewrite \
  --tutor-config configs/tutor.yaml --host 0.0.0.0 --port 7860

Endpoint: GET /api/health, POST /api/tutor/stream (SSE), POST /api/stream, POST /api/generate. Web UI servita su /.

Limite dichiarato

Le bozze riscritte dal modello passano il guard invariato in ~45% dei casi del set di misura; la correttezza della risposta servita non dipende dal modello: il fallback estrattivo è sempre citato sui passaggi recuperati e la domanda fuori dominio riceve astensione.