Commit
·
578909b
1
Parent(s):
fd3b76e
Update README.md
Browse files
README.md
CHANGED
|
@@ -1,3 +1,30 @@
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
|
|
|
|
|
|
| 3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
| 3 |
+
language:
|
| 4 |
+
- es
|
| 5 |
---
|
| 6 |
+
# Dataset: Borges en texto plano
|
| 7 |
+
El objetivo de este repositorio es construir un dataset del gran autor argentino que pueda usarse para el entrenamiento de modelos de lenguaje.
|
| 8 |
+
|
| 9 |
+
Inicialmente partí de libros en formato EPUB y únicamente en español
|
| 10 |
+
|
| 11 |
+
# Carpetas
|
| 12 |
+
|
| 13 |
+
Inicialmente planteo tres carpetas
|
| 14 |
+
|
| 15 |
+
## Epub
|
| 16 |
+
Libros en este formato
|
| 17 |
+
|
| 18 |
+
## Epub_a_txt
|
| 19 |
+
Libros convertidos con el sencillo script disponible en
|
| 20 |
+
|
| 21 |
+
https://github.com/lucasbiagettia/epub2txt
|
| 22 |
+
|
| 23 |
+
## txt_limpios
|
| 24 |
+
A mano he eliminado referencias editoriales, biograficas, y a otros recursos.
|
| 25 |
+
El criterio es sumamente objetable.
|
| 26 |
+
|
| 27 |
+
# Próximos pasos
|
| 28 |
+
Establecer un criterio para "limpiar" los txt e intentar automatizarlo. Seria conveniente evaluar si tiene sentido etiquetar cada libro y dentro del mismo cada cuento, y si tiene sentido etiquetar sus textos por genero.
|
| 29 |
+
|
| 30 |
+
# Cualquier colaboración será muy valorada.
|