lucasbiagettia's picture
Update README.md
578909b
metadata
license: apache-2.0
language:
  - es

Dataset: Borges en texto plano

El objetivo de este repositorio es construir un dataset del gran autor argentino que pueda usarse para el entrenamiento de modelos de lenguaje.

Inicialmente partí de libros en formato EPUB y únicamente en español

Carpetas

Inicialmente planteo tres carpetas

Epub

Libros en este formato

Epub_a_txt

Libros convertidos con el sencillo script disponible en

https://github.com/lucasbiagettia/epub2txt

txt_limpios

A mano he eliminado referencias editoriales, biograficas, y a otros recursos. El criterio es sumamente objetable.

Próximos pasos

Establecer un criterio para "limpiar" los txt e intentar automatizarlo. Seria conveniente evaluar si tiene sentido etiquetar cada libro y dentro del mismo cada cuento, y si tiene sentido etiquetar sus textos por genero.

Cualquier colaboración será muy valorada.