BiLSTM + CRF + FastText — NER en Espanol (CoNLL-2002)
Descripcion
Modelo BiLSTM bidireccional con capa CRF y embeddings FastText preentrenados para reconocimiento de entidades nombradas en espanol sobre CoNLL-2002. Entidades: LOC, ORG, PER, MISC.
Resultados
| Modelo | F1-score | Precision | Recall |
|---|---|---|---|
| BiLSTM baseline (sin FastText) | 64.3% | 62.7% | 66.1% |
| BiLSTM + CRF + FastText | 73.3% | 74.3% | 72.4% |
Supera baseline: SI
Evolucion del entrenamiento
Arquitectura
- Embeddings FastText (300 dim, fine-tuneable)
- BiLSTM capa 1: 256 unidades bidireccional
- BiLSTM capa 2: 128 unidades bidireccional
- LayerNorm + Dropout
- Capa CRF para coherencia de etiquetas
Configuracion de entrenamiento
- Dataset: CoNLL-2002 (esp.train, esp.testa, esp.testb)
- Plataforma: Kaggle T4 x2
- Optimizer: AdamW (lr=1e-3)
- Early Stopping: patience=7
- Batch size: 32
Maestria CODING - Universidad del Valle
Taller Final PLN - Gran Idea 2