modello string | descrittori string | n_stima int64 | n_test int64 | bordi_punteggio list | curva_base list | correzione_gruppo dict | attendibilita_media float64 | soglia_alta float64 | soglia_bassa float64 | validazione dict |
|---|---|---|---|---|---|---|---|---|---|---|
BAAI/bge-m3 | cp2021_5_6digit | 19,510 | 24,869 | [
0.02115592360496544,
0.028754925727844383,
0.03562010824680356,
0.043014729022979606,
0.05078837275505102,
0.05994609594345079,
0.0709799826145171,
0.08510539531707759,
0.10783721208572412
] | [
0.09072270630445925,
0.13480266529984622,
0.1824705279343926,
0.23065094823167606,
0.27473090722706306,
0.34495130702203997,
0.424910302409021,
0.5345976422347514,
0.6340338288057407,
0.805740645822655
] | {
"1.1": -0.9326,
"1.2": -0.6287,
"1.3": 0.3841,
"2.1": -0.0459,
"2.2": -0.5387,
"2.3": -0.1291,
"2.4": 0.4903,
"2.5": -0.045,
"2.6": 0.2213,
"2.7": -0.0739,
"3.1": 0.1754,
"3.2": -0.4272,
"3.3": -0.5595,
"3.4": -0.3601,
"4.1": 0.7071,
"4.2": 0.0143,
"4.3": -0.2248,
"4.4": -0.4246,
... | 0.365761 | 0.4013 | 0.3209 | {
"auc": 0.79,
"ece": 0.012,
"accuracy_top1": 0.372,
"accuracy_top5": 0.639,
"bande": {
"alta": {
"quota": 0.372,
"attendibilita_dichiarata": 0.63,
"precision_osservata": 0.64,
"top5_osservata": 0.85
},
"bassa": {
"quota": 0.522,
"attendibilita_dichiarata": 0.17... |
Codifica semantica CP2021 (5 digit)
Applicazione che assegna a un testo libero il codice CP2021 a 5 digit più vicino,
usando gli embedding del modello BAAI/bge-m3 e la similarità coseno.
Come funziona
data/cp2021_5_6digit_descriptors.csvcontiene i 813 descrittori CP2021 a 5 digit.- Al primo avvio
app.pycalcola gli embedding dei descrittori e li salva indata/cp2021_embeddings.npy(l'operazione richiede diversi minuti su CPU). - Agli avvii successivi gli embedding vengono riletti dal file: l'app calcola solo l'embedding del testo inserito dall'utente e ordina i codici per similarità coseno.
Per precalcolare gli embedding invece di farlo al primo avvio:
python build_knowledge_base.py
Gli indicatori mostrati
L'app affianca al codice proposto due indicatori che rispondono a domande diverse.
Rilevanza dei risultati (punto di gomito)
Individua il punto in cui la curva delle similarità si piega, cioè il punto più lontano dalla retta che unisce il primo e l'ultimo risultato. I codici sopra quel punto sono staccati dal resto e vale la pena guardarli (righe verdi), gli altri no.
È un indicatore relativo, calcolato sui soli risultati della ricerca corrente: dice
quanti codici meritano attenzione, non se il primo è corretto. Non richiede dati
etichettati. Implementato in elbow_cutoff() dentro app.py.
Attendibilità della proposta
Stima la probabilità che il primo codice sia quello corretto, su scala assoluta:
attendibilità = sigmoide( logit(curva_base(dispersione)) + correzione(gruppo predetto) )
dispersione = similarità del 1° risultato − similarità del 5°, cioè quanto il primo risultato è staccato dagli inseguitori. È più informativa della similarità assoluta.correzione(gruppo)corregge il fatto che alcuni gruppi CP2021 a 2 digit mantengono meno di quanto la similarità prometta, perché i loro descrittori si sovrappongono a classi confinanti.
L'indicatore viene tradotto in tre fasce (alta / media / bassa). La fascia bassa è il
modo in cui il metodo dichiara di non essere riuscito a individuare il codice in modo
affidabile. Non cambia i codici proposti né il loro ordine: è solo un'annotazione.
Implementato in reliability.py.
Calibrazione
I parametri stanno in data/reliability_calibration.json, prodotto dalla cella finale
di notebooks/ai-occupation-explore-input.ipynb a partire da un benchmark di query
etichettate. Stima e verifica sono fatte su porzioni disgiunte dei dati.
Se il file manca l'app funziona lo stesso e mostra solo la rilevanza. Il file va rigenerato se cambia il modello di embedding o l'insieme dei descrittori, perché la calibrazione vale per la combinazione con cui è stata stimata.
Avvio in locale
pip install -r requirements.txt
python app.py
Contenuto dello Space
app.py
parameters.py
reliability.py
build_knowledge_base.py
requirements.txt
README.md
data/cp2021_5_6digit_descriptors.csv
data/reliability_calibration.json
Parametri
Tutti i parametri (modello, percorsi, numero di risultati, testi dell'interfaccia)
sono definiti in parameters.py.
- Downloads last month
- 53