Benchmark SLM — phi-1_5 — CLM — MS MARCO
Adapter LoRA prodotto nell'ambito degli esperimenti OR2 del progetto Benchmark SLM.
Identificazione
- Modello base:
microsoft/phi-1_5 - Dataset di fine-tuning: MS MARCO
- Strategia: CLM (
ft) - Tipo di artefatto: adapter PEFT/LoRA; i pesi completi del modello base non sono inclusi.
Esperimenti OR2 su MS MARCO. Le strategie supervisionate usano 2.000 query di training, 100 di validation e 7.596 query held-out, con split seed 42.
Cosa è stato provato
Causal language modeling sul corpus; LoRA r=16, 2 epoche.
L'obiettivo complessivo degli esperimenti è confrontare l'effetto del fine-tuning con e senza contesto recuperato e verificare se il fine-tuning possa sostituire il retrieval. I risultati mostrano che il contesto resta essenziale.
Caricamento
from peft import AutoPeftModelForCausalLM
from transformers import AutoTokenizer
adapter_id = "praiselab-picuslab/benchmark-slm-msmarco-phi-1_5-ft"
model = AutoPeftModelForCausalLM.from_pretrained(adapter_id)
tokenizer = AutoTokenizer.from_pretrained(adapter_id)
Per Gemma 4 può essere necessario usare la classe multimodale appropriata e caricare esplicitamente il modello base prima dell'adapter.
Limitazioni
- Artefatto di ricerca, non validato per uso in produzione o decisioni ad alto impatto.
- Può generare contenuti errati, distorti o non supportati dalle fonti.
- L'accesso a questo adapter non concede automaticamente accesso al modello base.
- L'utilizzatore deve rispettare licenza e condizioni del modello base, del dataset e delle dipendenze.
- Le strategie
ctxqsono controlli negativi e non sono raccomandate come modelli finali.
- Downloads last month
- -
Model tree for praiselab-picuslab/benchmark-slm-msmarco-phi-1_5-ft
Base model
microsoft/phi-1_5