|
--- |
|
license: apache-2.0 |
|
language: |
|
- es |
|
--- |
|
# Dataset: Borges en texto plano |
|
El objetivo de este repositorio es construir un dataset del gran autor argentino que pueda usarse para el entrenamiento de modelos de lenguaje. |
|
|
|
Inicialmente partí de libros en formato EPUB y únicamente en español |
|
|
|
# Carpetas |
|
|
|
Inicialmente planteo tres carpetas |
|
|
|
## Epub |
|
Libros en este formato |
|
|
|
## Epub_a_txt |
|
Libros convertidos con el sencillo script disponible en |
|
|
|
https://github.com/lucasbiagettia/epub2txt |
|
|
|
## txt_limpios |
|
A mano he eliminado referencias editoriales, biograficas, y a otros recursos. |
|
El criterio es sumamente objetable. |
|
|
|
# Próximos pasos |
|
Establecer un criterio para "limpiar" los txt e intentar automatizarlo. Seria conveniente evaluar si tiene sentido etiquetar cada libro y dentro del mismo cada cuento, y si tiene sentido etiquetar sus textos por genero. |
|
|
|
# Cualquier colaboración será muy valorada. |
