jhonrayo99/nlp-tarea-2-ngramas

Corpus Austen-Twain para modelos de n-gramas

Este repositorio contiene el conjunto de datos de la Tarea 2 del curso de Procesamiento de Lenguaje Natural. Incluye textos en inglés de Jane Austen y Mark Twain, además de ejemplos para corrección ortográfica contextual.

Contenido

• 9 textos de entrenamiento de Jane Austen.
• Emma como texto de prueba de Jane Austen.
• 44 textos de entrenamiento de Mark Twain.
• A Connecticut Yankee in King Arthur's Court como texto de prueba de Mark Twain.
• spelling_errors.tsv: 60 ejemplos de errores de inserción, borrado y sustitución.
• SOURCES.txt: procedencia, identificador de Project Gutenberg, partición y nombre de archivo de cada texto.

Los archivos literarios están codificados en UTF-8. Se retiraron las cabeceras y pies de Project Gutenberg y las notas de ilustraciones entre corchetes.

Uso

Descargue el repositorio completo:

from huggingface_hub import snapshot_download

data_dir = snapshot_download(
    repo_id="jhonrayo99/nlp-tarea-2-ngramas",
    repo_type="dataset",
)

También puede descargar archivos individuales desde la pestaña Files and versions del repositorio.

Licencia

Consulte las condiciones de licencia en LICENSE.md.

Procedencia

Todos los textos literarios proceden de Project Gutenberg. SOURCES.txt contiene la trazabilidad de cada archivo.