CNR-ILC/gs-ithaca-tlg: Fine-Tuned Ithaca Model for Ancient Greek Text Restoration

Questo modello è una versione fine-tunata di Ithaca (sviluppato da Google DeepMind, Assael et al., Nature 2022) addestrato specificamente sul corpus TLG (Thesaurus Linguae Graecae) per il progetto GreekSchools.

Mentre il modello Ithaca originale è stato addestrato esclusivamente su iscrizioni epigrafiche (corpus PHI), questo checkpoint è stato adattato al registro linguistico, sintattico e lessicale della letteratura greca e dei trattati filosofici (tipici dei papiri ercolanesi).

Caratteristiche Principali

• Architettura Character-Level: modella il testo a livello di singoli caratteri anziché subword (BPE/WordPiece), eliminando il problema del disallineamento morfologico nelle terminazioni flessive (desinenze).
• Transformer BigBird: attenzione sparsa con supporto a finestre di contesto lunghe (fino a 768 caratteri).
• Freezing delle teste di attribuzione: durante il fine-tuning i rami di attribuzione geografica e temporale sono stati congelati, focalizzando i gradienti esclusivamente sul restauro testuale (masked character prediction).
• Decodifica con HCB Beam Search: impiega la correzione pseudo-likelihood HCB (Hammersley-Clifford-Besag Infilling) con strategia non-sequenziale Best-to-Worst, garantendo coerenza statistica e allineamento metodologico con i modelli BERT del framework.

Dettagli di Addestramento

• Base Model: deepmind/ithaca
• Corpus di Fine-Tuning: CNR-ILC/gs-dataset-tlg-uncased
• Framework: JAX / Flax Linen / Optax
• Convenzione lacune: Formato Leiden standard [...] o trattini ---- (testo normalizzato privo di accenti e spiriti).

Risultati di Valutazione Comparativa (Pre-FT vs Post-FT)

La seguente tabella riporta i risultati della valutazione sul test set TLG, suddiviso per policy di lacuna (default, word, suffix per le terminazioni flessive):

Policy	Metrica	Pre-FT (Ithaca Base)	Post-FT (Ithaca TLG)	Delta
OVERALL	Top-1 Exact Match	46.33%	61.00%	🟢 +14.67%
OVERALL	Top-5 Exact Match	69.33%	80.33%	🟢 +11.00%
OVERALL	Top-20 Exact Match	79.00%	87.00%	🟢 +8.00%
OVERALL	Mean Reciprocal Rank (MRR)	0.5649	0.6987	🟢 +0.1337
OVERALL	Character Error Rate (CER)	0.4430	0.3117	🟢 -0.1313
Policy 'suffix'	Top-1 Exact Match	60.00%	71.00%	🟢 +11.00%
Policy 'suffix'	Top-5 Exact Match	84.00%	89.00%	🟢 +5.00%
Policy 'suffix'	Top-20 Exact Match	89.00%	96.00%	🟢 +7.00%
Policy 'suffix'	Mean Reciprocal Rank (MRR)	0.7005	0.7958	🟢 +0.0953
Policy 'suffix'	Character Error Rate (CER)	0.3315	0.2232	🟢 -0.1083
Policy 'word'	Top-1 Exact Match	26.00%	45.00%	🟢 +19.00%
Policy 'word'	Top-5 Exact Match	44.00%	65.00%	🟢 +21.00%
Policy 'word'	Top-20 Exact Match	62.00%	76.00%	🟢 +14.00%
Policy 'word'	Mean Reciprocal Rank (MRR)	0.3501	0.5441	🟢 +0.1940
Policy 'word'	Character Error Rate (CER)	0.6190	0.4567	🟢 -0.1623
Policy 'default'	Top-1 Exact Match	53.00%	67.00%	🟢 +14.00%
Policy 'default'	Top-5 Exact Match	80.00%	87.00%	🟢 +7.00%
Policy 'default'	Top-20 Exact Match	86.00%	89.00%	🟢 +3.00%
Policy 'default'	Mean Reciprocal Rank (MRR)	0.6442	0.7561	🟢 +0.1119
Policy 'default'	Character Error Rate (CER)	0.3785	0.2552	🟢 -0.1233

Utilizzo tramite l'API di GreekSchools

Una volta scaricato o registrato nell'istanza dell'API, il modello può essere interrogato direttamente specificando il checkpoint:

from models.ithaca.inference.predict import fill_mask_ithaca

# Contesto con lacuna in formato Leiden [...] o Ithaca [---]
context = "ΚΑΙ ΤΩΝ ΦΙΛΟΣΟΦ[..] ΕΝ ΤΗΙ ΠΟΛΕΙ"

suggestions = fill_mask_ithaca(
    text=context,
    checkpoint="CNR-ILC/gs-ithaca-tlg",
    K=5
)

for cand, score in suggestions:
    print(f"Suggerimento: {cand} (Confidenza: {score:.4f})")

Citazione

Se utilizzi questo modello nei tuoi studi di papirologia o filologia classica, cita il paper originale di Ithaca e il progetto GreekSchools:

@article{assael2022restoring,
  title={Restoring and attributing ancient texts using deep neural networks},
  author={Assael, Yannis and Sommerschield, Thea and Shillingford, Brendan and Bordbar, Mahyar and Pavlopoulos, John and Chatzipanagiotou, Marita and Androutsopoulos, Ion and Prag, Jonathan and de Freitas, Nando},
  journal={Nature},
  volume={603},
  number={7900},
  pages={280--283},
  year={2022},
  publisher={Nature Publishing Group}
}