flaviojoshua/20260817-comprehension_V3

Guida a model_comparison_Table.csv

[Aggiornato: 2026-08-17] Il file model_comparison_Table.csv raccoglie benchmark di inferenza e valutazione per modelli linguistici. Ogni riga è un singolo run con uno specifico modello, formato dei pesi, entrypoint, dataset, ambiente di esecuzione e log sorgente; non è una classifica assoluta dei modelli.

[Aggiornato: 2026-08-17] Per confrontare due righe, filtrare prima lo stesso test_dataset_id e la stessa classe di esecuzione; una misura remota via provider non è direttamente equivalente a una misura GPU locale. Il CSV è adatto al Dataset Viewer di Hugging Face, che espone filtri, ordinamenti e distribuzioni per le intestazioni numeriche.

Pubblicazione come Hugging Face Dataset

[Aggiornato: 2026-08-17] Sullo Hub, il README.md del repository diventa una Dataset Card: presenta il dataset, i limiti e i metadati YAML che lo rendono ricercabile. Il CSV resta il dato tabellare dei risultati; la Dataset Card spiega invece il significato dei campi, la provenienza e l'uso responsabile. Non dichiarare una licenza, una lingua o una categoria di task senza averne verificato l'applicabilità legale e tecnica.

[Aggiornato: 2026-08-17] I metadati normalmente usati nella Dataset Card sono i seguenti. pretty_name, language, license, task_categories, size_categories e tags sono quelli più utili alla ricerca sullo Hub; annotations_creators, language_creators, multilinguality, source_datasets e config_names chiariscono invece origine e struttura. Per questo repository il tag tabular è pertinente; i tag di licenza, lingua e task vanno fissati solo dopo la decisione di pubblicazione.

---
pretty_name: "LLM Inference and V3 Comprehension Benchmarks"
tags:
  - tabular
  - llm
  - benchmark
  - structured-output
language:
  - it
task_categories:
  - text-generation
size_categories:
  - n<1K
# license: <identificatore verificato prima della pubblicazione>
# annotations_creators: machine-generated
# language_creators: expert-generated
# multilinguality: monolingual
# source_datasets:
#   - original
---

[Aggiornato: 2026-08-17] Il blocco YAML è un modello da adattare: language: it descrive il dataset V3 italiano, mentre text-generation e structured-output descrivono il compito candidato. size_categories: n<1K è coerente con la tabella attuale, ma deve essere aggiornato se il numero delle righe cambia categoria. Il valore della licenza non è noto dai log e rimane intenzionalmente non dichiarato.

Campi ulteriori consigliati per le prossime righe

[Aggiornato: 2026-08-17] Le 24 colonne attuali permettono un confronto iniziale. Per rendere il dataset riusabile e riproducibile su Hugging Face, le prossime campagne dovrebbero aggiungere i campi seguenti senza riscrivere le righe storiche; un valore ignoto va registrato come NA con una nota, mai inventato.

Campo consigliato	Perché serve
run_id e run_timestamp_utc	Identificano senza ambiguità un'esecuzione e la distinguono da run dello stesso giorno.
dataset_version e dataset_revision	Rendono esplicito se la riga usa V1, V2 o V3 e quale revisione dei file di input/gold è stata valutata.
model_revision	Fissa commit, revisione o hash del checkpoint; il solo model_name può puntare a pesi aggiornati.
prompt_template_revision	Separa l'effetto del modello dall'effetto della costruzione dei messaggi system e user.
temperature, top_p, max_new_tokens, seed	Documentano i parametri di generazione indispensabili per replicare un risultato e stimarne la variabilità.
inference_provider e provider_model_revision	Per run remoti distinguono router, provider effettivo e revisione lato server quando esposta.
execution_location e hardware_model	Separano in modo leggibile on_premise, cloud e remote_provider, oltre al dettaglio compatto in hardware_config.
axis_a_status, axis_b_status	Rendono filtrabili gli assi sintattico e di schema V3 senza dover interpretare testo libero in notes; l'Asse C è già una colonna primaria del CSV.
source_log_sha256	Collega una riga a un log immutabile e consente di rilevare modifiche accidentali al file sorgente.

Obiettivi dei dati pubblicati

[Aggiornato: 2026-08-17] Lo scopo è costruire un benchmark operativo riproducibile per scegliere configurazioni di inferenza che rispondano correttamente a casi V3 strutturati, non addestrare un modello e non pubblicare una classifica universale. Il valore della tabella deriva dalla possibilità di collegare ogni risultato a input, rubrica, hardware/provider e log.

[Aggiornato: 2026-08-17] In particolare, i dati cercano di ottenere tre evidenze separate: identificare le configurazioni che comprendono il merito del caso (Asse C), distinguere i modelli che restituiscono un JSON utilizzabile automaticamente (Assi A e B) e quantificare il costo operativo della scelta (latenza, token, retry ed errori). Una configurazione veloce ma con Asse C basso non soddisfa il primo obiettivo; una configurazione con Asse C alto ma Assi A/B FAIL richiede normalizzazione o supervisione prima dell'automazione.

[Aggiornato: 2026-08-17] Il confronto tra on-premise, A100 cloud e Together via Hugging Face Inference Providers serve a misurare il compromesso pratico fra controllo locale, disponibilità di hardware e latenza end-to-end. Non prova da solo che una differenza dipenda dal provider, dalla GPU o dalla quantizzazione: tale conclusione richiede run replicati e controllati con identici dataset, parametri, revisione del modello e giudice.

Cosa misura il benchmark

[Aggiornato: 2026-08-17] Il candidato riceve un caso amministrativo/normativo, restituisce un array JSON e viene valutato rispetto a una risposta gold. La tabella conserva sia prestazioni operative (durate, token e throughput) sia la qualità osservata; le due dimensioni non devono essere confuse.

[Aggiornato: 2026-08-17] DS_INST_V3_INPUT_3 e V3-split-case3 identificano il dataset V3 corrente: il primo è l'identificatore storico usato da alcune righe della campagna 2GPU, il secondo è l'identificatore esplicito della pipeline V3 più recente. Entrambi usano istruzioni e dati separati, ma il confronto richiede di leggere test_input_files e source_log per confermare la stessa revisione concreta dei file.

Dataset V3 e Asse C — comprensione di merito

[Aggiornato: 2026-08-17] Il dataset V3 separa tre proprietà che non sono intercambiabili: Asse A verifica che l'output sia JSON parsabile; Asse B verifica schema, tipi, cardinalità e vincoli; Asse C misura se la decisione è corretta nel merito. Un modello può fallire A o B e mantenere comunque un punteggio Asse C, perché il difetto di formato e l'errore di ragionamento sono problemi distinti.

[Aggiornato: 2026-08-17] Il candidato riceve il metodo fisso in input-3-istruzioni.md come messaggio system e normativa, dati, schema e otto domande in input-3-dato.md come messaggio user. Il giudice usa risposte-3-istruzioni.md e le risposte gold con scoring_keys in risposte-3-dato.md; note-di-design-3.md resta fuori dai prompt. La documentazione dei cinque file è disponibile in input_ids/README_input-3-Explanation.md.

[Aggiornato: 2026-08-17] Asse C è un valore da 0 a 100, prodotto dall'Auto-Judge secondo la rubrica V3. È un giudizio automatico, non una revisione umana né una misura scientifica indipendente. Una configurazione con Asse C inferiore a 60% è comprensione_non_accettabile; da 60% a meno di 80% richiede supervisione umana; da 80% in su supera la soglia di comprensione del progetto. L'automazione JSON richiede inoltre Asse A PASS e Asse B PASS.

Indice composito Asse C: punteggio di una domanda

[Aggiornato: 2026-08-17] Ogni domanda vale al massimo 10 punti. Le cinque chiavi che il giudice restituisce nel proprio JSON rappresentano i componenti del punteggio e sono definiti nella rubrica input_ids/risposte-3-istruzioni.md.

Chiave del giudice	Valori ammessi	Peso massimo	Significato e criterio
verdetto	0, 1, 3	3	Confronta ricevibile e ammissibile_nel_merito con il gold: 3 se coincidono entrambi, 1 se coincide solo ricevibile, 0 altrimenti.
aliquota	0, 3	3	Vale 3 solo se aliquota_applicabile coincide numericamente con il gold, con tolleranza zero; se il gold è null, deve esserlo anche il candidato.
importo	0, 1, 2	2	Vale 2 se contributo_concedibile coincide con il gold; vale 1 se è coerente con l'aliquota errata dichiarata dal candidato, così lo stesso errore non viene penalizzato due volte.
riferimenti	0, 1	1	Vale 1 se riferimenti_normativi include tutti i riferimenti obbligatori e nessuno di quelli vietati. norme_disapplicate è escluso da questo scoring.
motivazione	0.0, 0.5, 1.0	1	Vale 1 se espone una catena decisionale corretta e coerente, 0,5 se corretta ma incompleta, 0 se incoerente o basata su un fatto assente dal caso.

[Aggiornato: 2026-08-17] La formula è punti_domanda = verdetto + aliquota + importo + riferimenti + motivazione. Il totale pesato usa il peso specifico di ciascuna domanda dichiarato in scoring_keys: Asse_C_pct = Σ(peso_domanda × punti_domanda) / Σ(peso_domanda × 10) × 100. Nel dataset corrente la somma dei pesi è 13,5 e il massimo è quindi 135 punti; una nota come 129.50/135=95.9% riporta esattamente questo calcolo.

Origine dell'inferenza: on-premise, cloud e provider

[Aggiornato: 2026-08-17] La colonna hardware_config è la fonte primaria per classificare il luogo di inferenza. Il nome dell'entrypoint può essere storico o descrittivo e non è sufficiente da solo per dedurre dove siano stati eseguiti pesi e calcolo.

hardware_config	Collocazione del calcolo	Dettaglio operativo
2GPU:0	On-premise	Workstation locale: sola NVIDIA GeForce RTX 5060 Ti 16 GB su CUDA 0.
2GPU:0,1	On-premise	Workstation locale: RTX 5060 Ti 16 GB su CUDA 0 e RTX 3060 12 GB su CUDA 1.
2GPU:0,1,CPU	On-premise con offload	Le due GPU locali con moduli o memoria di fallback anche su CPU.
V100	On-premise	Host deb-v100, Tesla V100-SXM2-32GB; gli entrypoint V100 caricano in FP16.
A100:0	Cloud	Studio Lightning AI: una NVIDIA A100-SXM4-80GB su CUDA 0.
Inference Provider + Together	Cloud remoto	Il client locale invia la richiesta attraverso Hugging Face Inference Providers; Together esegue l'inferenza remota. Nessun peso, CUDA o kernel del modello viene caricato localmente.

[Aggiornato: 2026-08-17] Le due righe Inference Provider + Together del 14 agosto 2026 riguardano openai/gpt-oss-20b e openai/gpt-oss-120b. I nomi storici degli entrypoint e dei log contengono deepinfra perché il router o una precedente configurazione può esporre tale denominazione, ma la registrazione del run e la documentazione models_hf/GPT_OSS/Inference_Provider/README.md indicano Together come provider selezionato. Hugging Face è il livello di accesso/routing del servizio, non l'esecutore GPU di quelle due righe.

[Aggiornato: 2026-08-17] I tok/s remoti sono token restituiti divisi per la durata end-to-end dichiarata dal provider: includono rete, coda e servizio lato server. Non rappresentano la velocità di una GPU locale e non devono essere confrontati come throughput hardware puro con 2GPU:*, V100 o A100:0.

[Aggiornato: 2026-08-18] La campagna V100 di agosto (log rieseguiti il 2026-08-16/17) ha aggiunto le prime righe V100 con rubrica Asse C V3: auto-judge-AsseC è verificato dalla riga Esecuzione completata di ciascun log (Mistral 8B FP16=59.3%, Mistral 14B FP16=63.1%, Mistral 14B Int8=64.1%). Le righe DeepSeek FP16 V100 e Qwen2.5-14B FP16 V100 sono NA: la prima per un bug di abbinamento del giudice (il log riporta 0.00% pur con risposte candidate valide nel testo, quindi il valore è scartato come inattendibile), la seconda perché il run failed in fase di verifica modello per margine VRAM insufficiente dopo quattro tentativi nello stesso log. total_error_count per le righe V100 è NA perché non ricostruibile in modo affidabile dai log nel tempo disponibile, non zero. OpenAI-Judge-AsseC resta NA per tutta la campagna V100: nessun giudizio OpenAI è ancora stato eseguito su questi log, quindi queste righe non compaiono nei dashboard che richiedono un punteggio OpenAI abbinato (benchmark_quality_performance.html, benchmark_quality_OpenAI_performance.html, benchmark_judges_comparison.html); compaiono invece in benchmark_speed_performance.html, che richiede solo la durata.

[Aggiornato: 2026-08-18] Il CSV contiene solo righe con dataset V3 (DS_INST_V3_INPUT_3 o V3-split-case3): le 21 righe storiche V1/V2 (DS_STD_INPUT_1_2, DS_INST_INPUT_2, DS_STD_V1_INPUT_1, DS_INST_V2_INPUT_2, V1+V2-legacy-cases1-2) sono state rimosse perché quella rubrica non calcola l'Asse C e non sono comparabili con le righe V3. Il file ha ora 43 righe.

Dizionario delle 25 colonne del CSV

[Aggiornato: 2026-08-17] Le colonne seguenti descrivono tutte le intestazioni presenti nel CSV al 17 agosto 2026. NA significa che la misura non è ricostruibile dalle evidenze del run; non equivale a zero. auto-judge-AsseC è la colonna qualitativa primaria per il dataset V3.

Identità e riproducibilità

Colonna	Descrizione
campaign_date	Data della campagna o della registrazione del run, in formato ISO YYYY-MM-DD.
model_family	Famiglia generale del modello, utile per filtri e raggruppamenti; non sostituisce l'identificatore completo.
model_name	MODEL_ID o identificatore del checkpoint usato per il run.
format	Rappresentazione dei pesi, ad esempio BF16, GPTQ-Int4, AWQ, BitsAndBytes-Int8, MXFP4 oppure Inference Provider.
entrypoint_script	File operativo effettivamente lanciato; conserva il percorso/nome storico necessario a risalire alla configurazione.
test_dataset_id	Identificatore stabile della combinazione di prompt, risposte attese e pipeline di valutazione.
test_input_files	Elenco dei file sorgente che compongono concretamente l'input e, per le righe V3 recenti, anche i file di valutazione.
hardware_config	Hardware e collocazione dell'inferenza osservati; usare la legenda precedente per distinguere on-premise, cloud e provider.
source_log	Percorso del log persistente da cui sono estratte metriche, errori e note; è l'evidenza primaria per audit del run.

Stato, tempo e token

Colonna	Descrizione
status	Esito tecnico del processo: completed, failed o altro stato registrato. Non è un giudizio di qualità.
total_time_sec	Durata end-to-end in secondi: caricamento, preparazione, generazione, retry, giudice, scrittura e gestione dell'errore. Un valore strettamente oltre 180 s è classificato LENTO dal progetto.
generation_time_sec_total	Durata totale rendicontata delle generazioni dell'output candidato.
generation_retry_time_sec_total	Durata delle generazioni includendo i retry rendicontati. Può superare generation_time_sec_total quando vi sono tentativi scartati.
generated_tokens_candidate	Token dell'output candidato registrati dal run; può includere token di retry se il log li rendiconta.
avg_generation_tok_sec	Throughput candidato: token candidati rendicontati divisi per il rispettivo tempo di generazione. Per provider remoto è una misura end-to-end.
judge_time_sec_total	Tempo impiegato dalla fase di giudizio automatico.
generated_tokens_judge	Token prodotti dal giudice e presenti nel log.
avg_judge_tok_sec	Throughput della generazione del giudice, calcolato dai token e dal tempo giudice disponibili.
generated_tokens_reported_total	Somma di token candidato e token giudice che risultano effettivamente rendicontati; non stima token assenti o costi non esposti dal provider.

Errori, qualità e terminazione

Colonna	Descrizione
total_error_count	Conteggio aggregato di errori semantici, strutturali, del giudice e tecnici registrati. È una misura mista, non una percentuale di correttezza.
auto-judge-AsseC	Colonna primaria di comprensione per V3. Percentuale del punteggio composito Asse C, da 0 a 100, calcolata dall'Auto-Judge sulla rubrica pesata fino a 135 punti. Per un run V3 senza giudizio utilizzabile rimane NA, non zero.
OpenAI-Judge-AsseC	Percentuale del punteggio composito Asse C, da 0 a 100, calcolata da un giudice OpenAI esterno sulla stessa rubrica. Attualmente NA per tutte le righe: nessuna campagna ha ancora prodotto un giudizio OpenAI.
delta_AsseC	auto-judge-AsseC - OpenAI-Judge-AsseC. Misura lo scarto tra i due giudici sullo stesso caso; un valore vicino a 0 indica accordo, un valore positivo indica che l'Auto-Judge è più generoso dell'OpenAI Judge. NA finché una delle due colonne è NA.
finish_reason	Motivo di arresto noto, ad esempio EOS, stop, length, json_complete oppure OOM; interpretarlo insieme a notes.
notes	Contesto indispensabile: fallback, OOM, retry, distinzione tra assi A/B/C, formule ricostruite e limiti dell'evidenza.

Regole di lettura e limiti

[Aggiornato: 2026-08-17] Per leggere una distribuzione nel viewer, filtrare prima status=completed, poi selezionare dataset_version=V3 quando questa colonna verrà aggiunta oppure gli identificatori V3 presenti in test_dataset_id, e una sola categoria di hardware/provider. Ordinare auto-judge-AsseC in ordine decrescente per il merito, total_time_sec per la latenza end-to-end e avg_generation_tok_sec solo dopo avere separato l'inferenza locale da quella remota.

[Aggiornato: 2026-08-17] auto-judge-AsseC è una valutazione Auto-Judge: Codex aggrega i dati dei log ma non la trasforma in una valutazione indipendente. OpenAI-Judge-AsseC è pensata per un giudizio esterno OpenAI sullo stesso caso ed è NA finché nessuna campagna lo produce; delta_AsseC resta NA fino ad allora. total_error_count, tempi e token sono invece valori osservabili o derivabili dalle evidenze registrate. Le differenze tra run singoli non dimostrano causalità: per attribuire un risultato a quantizzazione, GPU o provider servono repliche controllate con stesso dataset, parametri, revisione del modello e giudice esterno fisso.