Create ESLO_text_only.py

ESLO_text_only.py

@@ -0,0 +1,405 @@
+import os
+import re
+from ctypes import Array
+from dataclasses import dataclass
+from typing import List
+import xml.etree.ElementTree as ET
+import ffmpeg
+
+import datasets
+import numpy as np
+
+_CITATION = """\
+@misc{11403/eslo/v1,
+    title = {ESLO},
+    author = {LLL},
+    url = {https://hdl.handle.net/11403/eslo/v1},
+    note = {{ORTOLANG} ({Open} {Resources} {and} {TOols} {for} {LANGuage}) \textendash www.ortolang.fr},
+    copyright = {Licence Creative Commons Attribution - Pas d'Utilisation Commerciale - Partage dans les Mêmes Conditions 4.0 International},
+    year = {2023}
+}
+"""
+
+_DESCRIPTION = """\
+ESLO dataset, each utterance are taken out individually
+"""
+SAMPLING_RATE = 16000
+AUDIO_FOLDER = "audio"
+TEST_TRANSCRIPTS = ['ESLO2_ENT_1052_C.trs', 'ESLO1_ENT_026_C.trs', 'ESLO2_ECOLE_1280_C.trs', 'ESLO1_CONSCMPP_727_C.trs',
+                    'ESLO1_ENT_002_C.trs', 'ESLO1_TEL_338_C.trs', 'ESLO1_ENTCONT_213_C.trs', 'ESLO1_INTPERS_449_C.trs',
+                    'ESLO1_CONSCMPP_740_C.trs', 'ESLO2_ENT_1008_C.trs', 'ESLO2_REPAS_1268_C.trs',
+                    'ESLO2_ITI_1121_C.trs', 'ESLO2_LIVRENF_1306_C.trs', 'ESLO1_INTPERS_452_C.trs',
+                    'ESLO1_CONSCMPP_742_C.trs', 'ESLO1_ENT_147_C.trs', 'ESLO2_ENT_1030_C.trs', 'ESLO2_CINE_1212_C.trs',
+                    'ESLO2_ENT_1014_C.trs', 'ESLO1_INTPERS_409_C.trs', 'ESLO2_CINE_1194_C.trs', 'ESLO2_ENT_1272_C.trs',
+                    'ESLO2_ITI_1100_C.trs', 'ESLO1_CONSCMPP_741_C.trs', 'ESLO1_ENT_144_C.trs', 'ESLO2_ENT_1034_C.trs',
+                    'ESLO2_ITI_1122_C.trs', 'ESLO2_LIVRENF_1309_C.trs', 'ESLO1_INTPERS_425_C.trs',
+                    'ESLO2_DIA_1226_C.trs', 'ESLO2_ITI_1092_C.trs', 'ESLO1_INTPERS_401_C.trs', 'ESLO1_ENT_130_C.trs',
+                    'ESLO1_TEL_317_C.trs', 'ESLO1_ENTCONT_205_C.trs', 'ESLO1_TEL_370_C.trs', 'ESLO2_CINE_1207_C.trs',
+                    'ESLO2_ITI_1109_C.trs', 'ESLO2_ITI_1088_C.trs', 'ESLO1_VISIT_601_C.trs', 'ESLO1_ENT_115_C.trs',
+                    'ESLO2_LIVRENF_1308_B.trs', 'ESLO1_ENT_011_C.trs', 'ESLO2_ITI_1073_B.trs', 'ESLO2_ITI_1132_C.trs',
+                    'ESLO1_ENT_050_C.trs', 'ESLO2_ITI_1175_C.trs', 'ESLO2_ENT_1063_C.trs', 'ESLO2_ENT_1026_C.trs',
+                    'ESLO1_ENT_092_C.trs']
+TRAIN_TRANSCRIPTS = ['ESLO1_INTPERS_437_C.trs', 'ESLO2_ENT_1017_C.trs', 'ESLO1_ENTCONT_208_C.trs',
+                     'ESLO1_ENT_063_C.trs', 'ESLO2_ECOLE_1299_C.trs', 'ESLO2_ITI_1101_C.trs', 'ESLO2_ITI_1144_C.trs',
+                     'ESLO2_LIVRENF_1326_C.trs', 'ESLO1_CONSCMPP_703_C.trs', 'ESLO2_CINE_1211_C.trs',
+                     'ESLO2_CINE_1195_C.trs', 'ESLO1_ENTCONT_235_C.trs', 'ESLO1_ENT_106_C.trs', 'ESLO1_ENT_143_C.trs',
+                     'ESLO2_ECOLE_1301_C.trs', 'ESLO1_TEL_366_C.trs', 'ESLO2_ITI_1099_C.trs', 'ESLO2_ITI_1118_C.trs',
+                     'ESLO1_ENTCONT_211_C.trs', 'ESLO2_CINE_1208_C.trs', 'ESLO1_ENT_087_C.trs',
+                     'ESLO1_ENTCLO_264_C.trs', 'ESLO1_TEL_307_C.trs', 'ESLO1_ENT_122_C.trs', 'ESLO1_ENT_167_C.trs',
+                     'ESLO1_REU_554_C.trs', 'ESLO2_ENT_1033_C.trs', 'ESLO2_ENT_1076_C.trs', 'ESLO1_ENTCLO_259_C.trs',
+                     'ESLO2_LIVRENF_1302_C.trs', 'ESLO1_ENT_047_C.trs', 'ESLO2_ITI_1125_C.trs', 'ESLO2_ITI_1160_C.trs',
+                     'ESLO1_CONF_505_C.trs', 'ESLO1_REU_513_C.trs', 'ESLO2_ENT_1031_C.trs', 'ESLO1_ENT_045_C.trs',
+                     'ESLO2_ITI_1127_C.trs', 'ESLO2_ITI_1162_C.trs', 'ESLO2_REPAS_1253_C.trs',
+                     'ESLO1_CONSCMPP_725_C.trs', 'ESLO1_ENT_085_C.trs', 'ESLO1_CONSCMPP_718_C.trs',
+                     'ESLO2_ECOLE_1282_C.trs', 'ESLO1_ENT_078_C.trs', 'ESLO2_ENT_1049_C.trs', 'ESLO1_ENT_120_C.trs',
+                     'ESLO1_ENT_165_C.trs', 'ESLO1_ENT_019_C.trs', 'ESLO1_ENTCONT_237_C.trs', 'ESLO2_CINE_1197_C.trs',
+                     'ESLO2_LIVRENF_1319_C.trs', 'ESLO1_INTPERS_408_C.trs', 'ESLO2_ENT_1329_C.trs',
+                     'ESLO1_TEL_364_C.trs', 'ESLO1_ENT_104_C.trs', 'ESLO2_ENT_1028_C.trs', 'ESLO1_ENT_141_C.trs',
+                     'ESLO2_ENT_1015_C.trs', 'ESLO1_ENT_139_C.trs', 'ESLO2_ENT_1050_C.trs', 'ESLO1_INTPERS_435_C.trs',
+                     'ESLO1_CONSCMPP_701_C.trs', 'ESLO2_CINE_1213_C.trs', 'ESLO2_LIVRENF_1324_C.trs',
+                     'ESLO1_ENT_061_C.trs', 'ESLO1_ENT_024_C.trs', 'ESLO2_ITI_1103_C.trs', 'ESLO2_ITI_1146_C.trs',
+                     'ESLO2_ENT_1069_C.trs', 'ESLO1_ENT_100_C.trs', 'ESLO1_ENT_145_C.trs', 'ESLO1_REPAS_278_C.trs',
+                     'ESLO1_TEL_360_C.trs', 'ESLO2_CINE_1193_C.trs', 'ESLO1_ENT_058_C.trs', 'ESLO1_ENT_065_C.trs',
+                     'ESLO1_ENT_020_C.trs', 'ESLO2_ITI_1107_C.trs', 'ESLO2_ITI_1142_C.trs', 'ESLO1_CONSCMPP_705_C.trs',
+                     'ESLO2_CINE_1217_C.trs', 'ESLO1_ENT_098_C.trs', 'ESLO2_LIVRENF_1320_C.trs',
+                     'ESLO1_INTPERS_431_C.trs', 'ESLO1_TEL_318_C.trs', 'ESLO2_ENT_1011_C.trs', 'ESLO2_ENT_1054_C.trs',
+                     'ESLO2_LIVRENF_1304_C.trs', 'ESLO1_CONSCMPP_721_C.trs', 'ESLO2_REPAS_1257_C.trs',
+                     'ESLO1_ENT_041_C.trs', 'ESLO1_ENT_004_C.trs', 'ESLO2_ITI_1123_C.trs', 'ESLO2_CINE_1177_C.trs',
+                     'ESLO2_ITI_1166_C.trs', 'ESLO1_REU_517_C.trs', 'ESLO2_ENT_1035_C.trs', 'ESLO1_ENT_119_C.trs',
+                     'ESLO2_ENT_1070_C.trs', 'ESLO2_ITI_1086_C.trs', 'ESLO1_INTPERS_450_C.trs',
+                     'ESLO1_INTPERS_415_C.trs', 'ESLO1_TEL_301_C.trs', 'ESLO1_MAG_627_C.trs', 'ESLO1_MAG_662_C.trs',
+                     'ESLO2_CONF_1243_C.trs', 'ESLO1_ENT_124_C.trs', 'ESLO1_ENT_161_C.trs', 'ESLO1_ENTCONT_217_C.trs',
+                     'ESLO2_ECOLE_1286_C.trs', 'ESLO2_RUMEUR_1339_C.trs', 'ESLO1_ENT_081_C.trs',
+                     'ESLO2_CONF_1241_C.trs', 'ESLO1_ENT_126_C.trs', 'ESLO1_ENT_163_C.trs', 'ESLO2_REPAS_1330_C.trs',
+                     'ESLO1_TEL_346_C.trs', 'ESLO1_MAG_625_C.trs', 'ESLO1_ENT_083_C.trs', 'ESLO2_ECOLE_1279_C.trs',
+                     'ESLO2_ECOLE_1284_C.trs', 'ESLO2_ITI_1159_C.trs', 'ESLO1_ENTCONT_215_C.trs', 'ESLO1_ENT_043_C.trs',
+                     'ESLO1_ENT_006_C.trs', 'ESLO2_ITI_1164_C.trs', 'ESLO1_ENTCONT_228_C.trs',
+                     'ESLO1_CONSCMPP_723_C.trs', 'ESLO2_REPAS_1255_C.trs', 'ESLO2_CINE_1188_C.trs',
+                     'ESLO1_CONF_503_C.trs', 'ESLO1_INTPERS_417_C.trs', 'ESLO2_ENT_1037_C.trs',
+                     'ESLO2_LIVRENF_1322_C.trs', 'ESLO1_CONSCMPP_707_C.trs', 'ESLO2_REPAS_1271_C.trs',
+                     'ESLO2_CINE_1215_C.trs', 'ESLO1_ENT_067_C.trs', 'ESLO1_ENT_022_C.trs', 'ESLO2_ITI_1105_C.trs',
+                     'ESLO2_ITI_1140_C.trs', 'ESLO2_ENT_1013_C.trs', 'ESLO2_ENT_1056_C.trs', 'ESLO1_ENTOUV_260_C.trs',
+                     'ESLO1_TEL_362_C.trs', 'ESLO2_DISC_1237_C.trs', 'ESLO1_ENT_102_C.trs', 'ESLO2_ITI_1138_C.trs',
+                     'ESLO2_CINE_1191_C.trs', 'ESLO1_ENT_164_C.trs', 'ESLO2_ENT_1048_C.trs', 'ESLO1_ENT_121_C.trs',
+                     'ESLO1_TEL_341_C.trs', 'ESLO1_ENT_084_C.trs', 'ESLO1_ENTCONT_212_C.trs', 'ESLO1_ENT_079_C.trs',
+                     'ESLO2_ECOLE_1283_C.trs', 'ESLO1_ENT_001_C.trs', 'ESLO1_ENT_044_C.trs', 'ESLO2_ITI_1163_C.trs',
+                     'ESLO2_ITI_1126_C.trs', 'ESLO1_CONSCMPP_724_C.trs', 'ESLO1_CONF_504_C.trs', 'ESLO2_ENT_1075_C.trs',
+                     'ESLO1_ENT_159_C.trs', 'ESLO2_LIVRENF_1325_C.trs', 'ESLO1_ENT_025_C.trs', 'ESLO1_ENT_060_C.trs',
+                     'ESLO2_ITI_1147_C.trs', 'ESLO2_ITI_1102_C.trs', 'ESLO1_ENT_138_C.trs', 'ESLO2_ENT_1051_C.trs',
+                     'ESLO1_TEL_365_C.trs', 'ESLO2_ENT_1029_C.trs', 'ESLO1_ENT_140_C.trs', 'ESLO1_ENT_105_C.trs',
+                     'ESLO1_ENT_018_C.trs', 'ESLO1_ENTCONT_236_C.trs', 'ESLO2_CINE_1196_C.trs',
+                     'ESLO2_LIVRENF_1318_C.trs', 'ESLO1_ENT_142_C.trs', 'ESLO1_ENT_107_C.trs', 'ESLO2_ECOLE_1300_C.trs',
+                     'ESLO1_TEL_367_C.trs', 'ESLO1_MAG_290_C.trs', 'ESLO2_ITI_1098_C.trs', 'ESLO1_ENTOUV_258_C.trs',
+                     'ESLO1_ENT_027_C.trs', 'ESLO2_ECOLE_1298_C.trs', 'ESLO1_ENT_062_C.trs', 'ESLO2_ITI_1145_C.trs',
+                     'ESLO2_LIVRENF_1327_C.trs', 'ESLO1_CONSCMPP_702_C.trs', 'ESLO2_CINE_1210_C.trs',
+                     'ESLO1_INTPERS_436_C.trs', 'ESLO2_ENT_1053_C.trs', 'ESLO2_ENT_1016_C.trs',
+                     'ESLO1_CONSCMPP_726_C.trs', 'ESLO2_LIVRENF_1303_C.trs', 'ESLO1_ENT_003_C.trs',
+                     'ESLO1_ENT_046_C.trs', 'ESLO2_ITI_1161_C.trs', 'ESLO2_ITI_1124_C.trs', 'ESLO2_ENT_1077_C.trs',
+                     'ESLO2_ENT_1032_C.trs', 'ESLO1_TEL_343_C.trs', 'ESLO1_ENT_166_C.trs', 'ESLO1_ENT_123_C.trs',
+                     'ESLO2_CONF_1244_C.trs', 'ESLO2_ECOLE_1281_C.trs', 'ESLO2_ITI_1119_C.trs', 'ESLO2_CINE_1209_C.trs',
+                     'ESLO1_ENT_086_C.trs', 'ESLO1_INTPERS_416_C.trs', 'ESLO1_INTPERS_453_C.trs',
+                     'ESLO1_CONF_502_C.trs', 'ESLO1_REU_551_C.trs', 'ESLO2_ENT_1036_C.trs', 'ESLO1_ENT_007_C.trs',
+                     'ESLO1_ENT_042_C.trs', 'ESLO2_ITI_1165_C.trs', 'ESLO2_ITI_1120_C.trs', 'ESLO1_ENTCONT_229_C.trs',
+                     'ESLO2_REPAS_1254_C.trs', 'ESLO1_CONSCMPP_722_C.trs', 'ESLO2_CINE_1189_C.trs',
+                     'ESLO2_LIVRENF_1307_C.trs', 'ESLO2_REPAS_1269_C.trs', 'ESLO2_ECOLE_1278_C.trs',
+                     'ESLO1_ENT_082_C.trs', 'ESLO2_ECOLE_1285_C.trs', 'ESLO2_ITI_1158_C.trs', 'ESLO1_ENTCONT_214_C.trs',
+                     'ESLO1_ENT_127_C.trs', 'ESLO2_CONF_1240_C.trs', 'ESLO1_TEL_302_C.trs', 'ESLO1_TEL_347_C.trs',
+                     'ESLO1_ENTCONT_230_C.trs', 'ESLO2_ITI_1139_C.trs', 'ESLO2_CINE_1190_C.trs', 'ESLO1_MAG_645_C.trs',
+                     'ESLO1_ENT_146_C.trs', 'ESLO1_ENT_103_C.trs', 'ESLO2_ENT_1057_C.trs', 'ESLO2_ENT_1012_C.trs',
+                     'ESLO2_LIVRENF_1323_C.trs', 'ESLO1_CONSCMPP_743_C.trs', 'ESLO2_REPAS_1270_C.trs',
+                     'ESLO2_CINE_1214_C.trs', 'ESLO1_ENT_023_C.trs', 'ESLO1_ENT_066_C.trs', 'ESLO2_ITI_1141_C.trs',
+                     'ESLO2_ITI_1104_C.trs', 'ESLO1_INTPERS_430_C.trs', 'ESLO1_ENTOUV_263_C.trs', 'ESLO1_TEL_319_C.trs',
+                     'ESLO2_ENT_1055_C.trs', 'ESLO2_ENT_1010_C.trs', 'ESLO1_ENT_021_C.trs', 'ESLO1_ENT_064_C.trs',
+                     'ESLO2_ITI_1143_C.trs', 'ESLO2_ITI_1106_C.trs', 'ESLO1_CONSCMPP_704_C.trs',
+                     'ESLO2_CINE_1216_C.trs', 'ESLO1_ENT_099_C.trs', 'ESLO2_LIVRENF_1321_C.trs',
+                     'ESLO2_CINE_1192_C.trs', 'ESLO1_ENT_059_C.trs', 'ESLO2_INTPERS_1245_C.trs', 'ESLO2_ENT_1068_C.trs',
+                     'ESLO1_ENT_101_C.trs', 'ESLO1_REPAS_279_C.trs', 'ESLO1_INTPERS_448_C.trs', 'ESLO1_TEL_361_C.trs',
+                     'ESLO1_ENTCONT_216_C.trs', 'ESLO2_ECOLE_1287_C.trs', 'ESLO2_RUMEUR_1338_C.trs',
+                     'ESLO1_ENT_080_C.trs', 'ESLO1_TEL_345_C.trs', 'ESLO1_MAG_626_C.trs', 'ESLO1_INTPERS_429_C.trs',
+                     'ESLO2_ENT_1009_C.trs', 'ESLO1_ENT_160_C.trs', 'ESLO1_ENT_125_C.trs', 'ESLO2_CONF_1242_C.trs',
+                     'ESLO1_ENT_118_C.trs', 'ESLO2_ENT_1071_C.trs', 'ESLO2_ITI_1087_C.trs', 'ESLO1_INTPERS_414_C.trs',
+                     'ESLO1_INTPERS_451_C.trs', 'ESLO2_LIVRENF_1305_C.trs', 'ESLO2_REPAS_1256_C.trs',
+                     'ESLO1_CONSCMPP_720_C.trs', 'ESLO1_ENT_005_C.trs', 'ESLO2_CINE_1176_C.trs', 'ESLO2_ITI_1167_C.trs',
+                     'ESLO1_ENT_114_C.trs', 'ESLO2_ENT_1038_C.trs', 'ESLO1_ENT_151_C.trs', 'ESLO2_24H_1249_C.trs',
+                     'ESLO1_INTPERS_418_C.trs', 'ESLO2_LIVRENF_1251_C.trs', 'ESLO2_ENT_1080_C.trs',
+                     'ESLO2_CINE_1187_C.trs', 'ESLO1_ENT_009_C.trs', 'ESLO2_ITI_1113_C.trs', 'ESLO2_ITI_1156_C.trs',
+                     'ESLO2_RUMEUR_1334_C.trs', 'ESLO1_ENT_071_C.trs', 'ESLO2_CINE_1203_C.trs',
+                     'ESLO2_REPAS_1267_C.trs', 'ESLO1_CONSCMPP_711_C.trs', 'ESLO2_ECOLE_1276_C.trs',
+                     'ESLO1_TEL_349_C.trs', 'ESLO2_ENT_1005_C.trs', 'ESLO1_ENT_129_C.trs', 'ESLO2_ENT_1040_C.trs',
+                     'ESLO2_ECOLE_1252_C.trs', 'ESLO2_LIVRENF_1310_C.trs', 'ESLO1_CONSCMPP_735_C.trs',
+                     'ESLO2_ITI_1137_C.trs', 'ESLO2_ITI_1172_C.trs', 'ESLO1_ENT_055_C.trs', 'ESLO1_ENT_010_C.trs',
+                     'ESLO2_ENTJEUN_1234_C.trs', 'ESLO1_REPAS_275_C.trs', 'ESLO1_ENT_148_C.trs', 'ESLO2_ENT_1021_C.trs',
+                     'ESLO2_ENT_1064_C.trs', 'ESLO2_DISC_1238_C.trs', 'ESLO1_MAR_617_C.trs', 'ESLO1_REU_296_C.trs',
+                     'ESLO1_ENTOUV_252_C.trs', 'ESLO1_TEL_350_C.trs', 'ESLO2_ENT_1059_C.trs', 'ESLO1_ENTCONT_203_C.trs',
+                     'ESLO2_ECOLE_1292_C.trs', 'ESLO1_ENT_068_C.trs', 'ESLO1_ENT_095_C.trs', 'ESLO1_CONSCMPP_708_C.trs',
+                     'ESLO1_ENT_132_C.trs', 'ESLO1_MAG_631_C.trs', 'ESLO1_TEL_352_C.trs', 'ESLO2_CINE_1218_C.trs',
+                     'ESLO1_ENT_097_C.trs', 'ESLO2_ITI_1108_C.trs', 'ESLO2_ECOLE_1290_C.trs', 'ESLO1_ENTCONT_201_C.trs',
+                     'ESLO2_ITI_1135_C.trs', 'ESLO2_ITI_1170_C.trs', 'ESLO1_ENT_057_C.trs', 'ESLO1_ENT_012_C.trs',
+                     'ESLO1_CONSCMPP_737_C.trs', 'ESLO2_CONF_1074_C.trs', 'ESLO2_LIVRENF_1312_C.trs',
+                     'ESLO1_INTPERS_446_C.trs', 'ESLO1_REU_294_C.trs', 'ESLO2_RUMEUR_1336_B.trs',
+                     'ESLO1_INTPERS_403_C.trs', 'ESLO2_BOUL_1332_A.trs', 'ESLO2_ITI_1090_C.trs', 'ESLO2_ENT_1023_C.trs',
+                     'ESLO2_ENT_1066_C.trs', 'ESLO1_VISIT_602_B.trs', 'ESLO2_ENTJEUN_1236_C.trs',
+                     'ESLO2_ECOLE_1274_C.trs', 'ESLO2_CINE_1201_C.trs', 'ESLO2_REPAS_1265_C.trs',
+                     'ESLO1_CONSCMPP_713_C.trs', 'ESLO1_ENTCONT_218_C.trs', 'ESLO2_ITI_1111_C.trs',
+                     'ESLO2_ITI_1154_C.trs', 'ESLO1_ENT_073_C.trs', 'ESLO2_ECOLE_1289_C.trs', 'ESLO2_ENT_1007_C.trs',
+                     'ESLO2_ENT_1042_C.trs', 'ESLO2_DIA_1224_C.trs', 'ESLO1_INTPERS_462_C.trs',
+                     'ESLO1_INTPERS_427_C.trs', 'ESLO1_MAG_650_C.trs', 'ESLO2_ITI_1089_C.trs', 'ESLO2_ENT_1082_C.trs',
+                     'ESLO1_ENT_116_C.trs', 'ESLO1_ENT_153_C.trs', 'ESLO1_ENTCONT_225_C.trs', 'ESLO2_CINE_1178_C.trs',
+                     'ESLO2_ITI_1169_C.trs', 'ESLO2_CINE_1185_C.trs', 'ESLO2_REPAS_1258_C.trs',
+                     'ESLO1_INTPERS_423_C.trs', 'ESLO2_ENT_1003_C.trs', 'ESLO2_ENT_1046_C.trs', 'ESLO2_ITI_1115_C.trs',
+                     'ESLO2_ITI_1150_C.trs', 'ESLO1_ENT_077_C.trs', 'ESLO2_CINE_1205_C.trs', 'ESLO1_CONSCMPP_717_C.trs',
+                     'ESLO2_REPAS_1261_C.trs', 'ESLO1_CONSCMPP_752_C.trs', 'ESLO2_CINE_1181_C.trs',
+                     'ESLO2_ITI_1128_C.trs', 'ESLO1_ENT_112_C.trs', 'ESLO2_ITI_1149_C.trs', 'ESLO2_ECOLE_1294_C.trs',
+                     'ESLO1_ENT_093_C.trs', 'ESLO1_ENT_136_C.trs', 'ESLO1_ENT_173_C.trs', 'ESLO2_ENT_1027_C.trs',
+                     'ESLO2_ENT_1062_C.trs', 'ESLO2_ENTJEUN_1232_C.trs', 'ESLO1_REPAS_273_C.trs',
+                     'ESLO1_INTPERS_407_C.trs', 'ESLO1_ENTOUV_254_C.trs', 'ESLO2_ITI_1094_C.trs',
+                     'ESLO1_CONSCMPP_733_C.trs', 'ESLO2_LIVRENF_1316_C.trs', 'ESLO2_CINE_1198_C.trs',
+                     'ESLO2_ITI_1131_C.trs', 'ESLO2_ITI_1174_C.trs', 'ESLO1_ENT_053_C.trs', 'ESLO1_ENTCONT_238_C.trs',
+                     'ESLO2_ITI_1096_C.trs', 'ESLO1_INTPERS_440_C.trs', 'ESLO2_ENTJEUN_1230_C.trs',
+                     'ESLO2_ENT_1025_C.trs', 'ESLO1_ENT_109_C.trs', 'ESLO2_ENT_1060_C.trs', 'ESLO1_REU_542_C.trs',
+                     'ESLO2_ITI_1133_C.trs', 'ESLO1_ENT_051_C.trs', 'ESLO1_ENT_014_C.trs', 'ESLO2_LIVRENF_1314_C.trs',
+                     'ESLO1_CONSCMPP_731_C.trs', 'ESLO2_REPAS_1247_C.trs', 'ESLO1_ENT_091_C.trs',
+                     'ESLO1_ENTCONT_207_C.trs', 'ESLO1_ENT_029_C.trs', 'ESLO2_ECOLE_1296_C.trs', 'ESLO2_ENT_1018_C.trs',
+                     'ESLO1_TEL_354_C.trs', 'ESLO1_INTPERS_438_C.trs', 'ESLO1_ENT_048_C.trs', 'ESLO1_ENTCONT_223_C.trs',
+                     'ESLO1_CONSCMPP_728_C.trs', 'ESLO2_CINE_1183_C.trs', 'ESLO1_ENTCLO_256_C.trs',
+                     'ESLO2_ENT_1084_C.trs', 'ESLO2_ENT_1079_C.trs', 'ESLO1_ENT_110_C.trs', 'ESLO1_ENT_155_C.trs',
+                     'ESLO2_ITI_1072_C.trs', 'ESLO2_ENTJEUN_1229_C.trs', 'ESLO2_ENT_1001_C.trs', 'ESLO2_ENT_1044_C.trs',
+                     'ESLO1_INTPERS_421_C.trs', 'ESLO1_TEL_308_C.trs', 'ESLO2_DIA_1222_C.trs', 'ESLO2_REPAS_1263_C.trs',
+                     'ESLO1_ENT_088_C.trs', 'ESLO2_ITI_1117_C.trs', 'ESLO2_ITI_1152_C.trs', 'ESLO1_ENT_075_C.trs',
+                     'ESLO1_ENT_030_C.trs', 'ESLO1_INTPERS_402_C.trs', 'ESLO1_INTPERS_447_C.trs',
+                     'ESLO2_ITI_1091_C.trs', 'ESLO2_ENT_1067_C.trs', 'ESLO2_ENT_1022_C.trs', 'ESLO2_ITI_1171_C.trs',
+                     'ESLO2_ITI_1134_C.trs', 'ESLO1_ENT_013_C.trs', 'ESLO1_ENT_056_C.trs', 'ESLO2_LIVRENF_1313_C.trs',
+                     'ESLO2_CINE_1219_C.trs', 'ESLO1_ENT_096_C.trs', 'ESLO2_ECOLE_1291_C.trs', 'ESLO1_ENT_133_C.trs',
+                     'ESLO1_MAG_630_C.trs', 'ESLO1_TEL_316_C.trs', 'ESLO1_TEL_353_C.trs', 'ESLO1_ENTCONT_224_C.trs',
+                     'ESLO2_CINE_1179_C.trs', 'ESLO2_ITI_1168_C.trs', 'ESLO2_CINE_1184_C.trs', 'ESLO2_REPAS_1259_C.trs',
+                     'ESLO2_ENT_1083_C.trs', 'ESLO1_TEL_332_C.trs', 'ESLO1_ENT_152_C.trs', 'ESLO1_ENT_117_C.trs',
+                     'ESLO1_REU_519_C.trs', 'ESLO2_ENT_1043_C.trs', 'ESLO2_ENT_1006_C.trs', 'ESLO1_MAG_629_C.trs',
+                     'ESLO2_DIA_1225_C.trs', 'ESLO1_INTPERS_426_C.trs', 'ESLO1_INTPERS_463_C.trs',
+                     'ESLO2_ECOLE_1275_C.trs', 'ESLO1_VISIT_603_C.trs', 'ESLO2_CINE_1200_C.trs',
+                     'ESLO1_CONSCMPP_712_C.trs', 'ESLO2_REPAS_1264_C.trs', 'ESLO1_ENTCONT_219_C.trs',
+                     'ESLO2_ITI_1155_C.trs', 'ESLO2_RUMEUR_1337_C.trs', 'ESLO2_ITI_1110_C.trs',
+                     'ESLO2_ECOLE_1288_C.trs', 'ESLO1_ENT_072_C.trs', 'ESLO1_INTPERS_424_C.trs',
+                     'ESLO1_INTPERS_461_C.trs', 'ESLO1_TEL_348_C.trs', 'ESLO2_DIA_1227_C.trs', 'ESLO1_ENT_128_C.trs',
+                     'ESLO2_ENT_1041_C.trs', 'ESLO2_ENT_1004_C.trs', 'ESLO2_ITI_1157_C.trs', 'ESLO2_RUMEUR_1335_C.trs',
+                     'ESLO2_ITI_1112_C.trs', 'ESLO1_ENT_070_C.trs', 'ESLO2_CINE_1202_C.trs', 'ESLO1_CONSCMPP_710_C.trs',
+                     'ESLO2_REPAS_1266_C.trs', 'ESLO2_ECOLE_1277_C.trs', 'ESLO2_CINE_1186_C.trs', 'ESLO1_ENT_008_C.trs',
+                     'ESLO1_ENTCONT_226_C.trs', 'ESLO1_DIV_292_C.trs', 'ESLO2_ENT_1039_C.trs', 'ESLO1_ENT_150_C.trs',
+                     'ESLO1_INTPERS_419_C.trs', 'ESLO2_ENT_1081_C.trs', 'ESLO1_ENTCLO_253_C.trs',
+                     'ESLO1_ENTCONT_202_C.trs', 'ESLO1_ENT_069_C.trs', 'ESLO2_ECOLE_1293_C.trs', 'ESLO1_ENT_094_C.trs',
+                     'ESLO1_CONSCMPP_709_C.trs', 'ESLO1_TEL_351_C.trs', 'ESLO2_ENT_1058_C.trs', 'ESLO1_ENT_131_C.trs',
+                     'ESLO2_ENTJEUN_1235_C.trs', 'ESLO1_REPAS_274_C.trs', 'ESLO2_ENT_1065_C.trs', 'ESLO1_ENT_149_C.trs',
+                     'ESLO2_ENT_1020_C.trs', 'ESLO2_DISC_1239_C.trs', 'ESLO2_ITI_1093_C.trs', 'ESLO1_INTPERS_445_C.trs',
+                     'ESLO2_LIVRENF_1311_C.trs', 'ESLO1_CONSCMPP_734_C.trs', 'ESLO2_ITI_1173_C.trs',
+                     'ESLO2_ITI_1136_C.trs', 'ESLO1_ENT_054_C.trs', 'ESLO2_ENT_1019_C.trs', 'ESLO1_ENT_170_C.trs',
+                     'ESLO1_ENT_135_C.trs', 'ESLO1_MAG_673_C.trs', 'ESLO1_TEL_355_C.trs', 'ESLO1_INTPERS_439_C.trs',
+                     'ESLO2_LIVRENF_1328_C.trs', 'ESLO1_ENT_090_C.trs', 'ESLO1_ENTCONT_206_C.trs',
+                     'ESLO1_ENT_028_C.trs', 'ESLO2_ECOLE_1297_C.trs', 'ESLO1_ENT_015_C.trs', 'ESLO2_LIVRENF_1315_C.trs',
+                     'ESLO1_CONSCMPP_730_C.trs', 'ESLO2_ITI_1097_C.trs', 'ESLO2_MEDIA_1248_C.trs',
+                     'ESLO1_MAR_612_C.trs', 'ESLO1_ENTOUV_257_C.trs', 'ESLO1_INTPERS_441_C.trs',
+                     'ESLO2_ENTJEUN_1231_C.trs', 'ESLO1_REPAS_270_C.trs', 'ESLO1_ENT_108_C.trs', 'ESLO2_ENT_1024_C.trs',
+                     'ESLO2_CINE_1206_C.trs', 'ESLO2_ENT_1061_B.trs', 'ESLO1_CONSCMPP_751_C.trs',
+                     'ESLO2_REPAS_1262_C.trs', 'ESLO1_ENT_089_C.trs', 'ESLO2_LIVRENF_1331_C.trs',
+                     'ESLO2_ECOLE_1273_C.trs', 'ESLO2_ITI_1153_C.trs', 'ESLO2_ITI_1116_C.trs', 'ESLO2_ENT_1045_C.trs',
+                     'ESLO1_ENT_169_C.trs', 'ESLO1_INTPERS_420_C.trs', 'ESLO2_DIA_1223_C.trs', 'ESLO1_TEL_334_C.trs',
+                     'ESLO2_ENT_1085_C.trs', 'ESLO1_TEL_371_C.trs', 'ESLO2_ENT_1078_C.trs', 'ESLO1_ENT_111_C.trs',
+                     'ESLO2_ENTJEUN_1228_C.trs', 'ESLO2_CINE_1182_C.trs', 'ESLO1_ENT_156_C.trs', 'ESLO1_ENT_113_C.trs',
+                     'ESLO1_TEL_336_C.trs', 'ESLO1_ENTCLO_255_C.trs', 'ESLO1_TEL_373_C.trs', 'ESLO2_CINE_1180_C.trs',
+                     'ESLO2_ITI_1129_C.trs', 'ESLO2_ITI_1151_C.trs', 'ESLO2_ITI_1114_C.trs', 'ESLO1_ENT_076_C.trs',
+                     'ESLO2_CINE_1204_C.trs', 'ESLO2_REPAS_1260_C.trs', 'ESLO1_CONSCMPP_716_C.trs',
+                     'ESLO2_DIA_1221_C.trs', 'ESLO1_INTPERS_422_C.trs', 'ESLO2_ENT_1047_C.trs', 'ESLO2_ENT_1002_C.trs',
+                     'ESLO1_REU_520_C.trs', 'ESLO2_CINE_1220_C.trs', 'ESLO1_CONSCMPP_732_C.trs',
+                     'ESLO2_LIVRENF_1317_C.trs', 'ESLO2_CINE_1199_C.trs', 'ESLO2_ITI_1130_C.trs', 'ESLO1_ENT_017_C.trs',
+                     'ESLO1_ENT_052_C.trs', 'ESLO1_ENTCONT_239_C.trs', 'ESLO2_ENTJEUN_1233_C.trs',
+                     'ESLO1_REPAS_272_C.trs', 'ESLO1_INTPERS_406_C.trs', 'ESLO2_ITI_1095_C.trs', 'ESLO1_MAG_634_C.trs',
+                     'ESLO1_TEL_312_C.trs', 'ESLO1_ENT_172_C.trs', 'ESLO2_BOUL_1250_C.trs', 'ESLO1_ENT_137_C.trs',
+                     'ESLO2_ITI_1148_C.trs', 'ESLO2_ECOLE_1295_C.trs', 'ESLO1_ENTCONT_204_C.trs']
+
+
+@dataclass
+class Utterance:
+    speaker: str
+    sentence: str
+    start_timestamp: float
+    end_timestamp: float
+    overlap: bool
+
+
+class ESLOConfig(datasets.BuilderConfig):
+    """BuilderConfig for ESLO."""
+
+    def __init__(self, name, **kwargs):
+        """
+        Args:
+          name: `string`, name of dataset config (=language)
+          **kwargs: keyword arguments forwarded to super.
+        """
+        super(ESLOConfig, self).__init__(
+            version=datasets.Version("2.11.0", ""), name=name, **kwargs
+        )
+        if "no_overlap" in name:
+            self.overlap = False
+        else:
+            self.overlap = True
+        if "no_hesitation" in name:
+            self.hesitation = False
+        else:
+            self.hesitation = True
+
+
+class ESLO(datasets.GeneratorBasedBuilder):
+    """ESLO dataset."""
+
+    BUILDER_CONFIGS = [
+        ESLOConfig(name="no_overlap_no_hesitation", description="ESLO dataset, removed hesitations from samples"
+                                                                " and all samples with overlap"),
+        ESLOConfig(name="no_hesitation", description="ESLO dataset, removed hesitations from samples"),
+        ESLOConfig(name="no_overlap", description="ESLO dataset, removed all samples with overlap"),
+        ESLOConfig(name="raw", description="ESLO dataset"),
+    ]
+
+    DEFAULT_CONFIG_NAME = "no_overlap_no_hesitation"
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            features=datasets.Features(
+                {
+                    "file": datasets.Value("string"),
+                    "audio": datasets.features.Audio(sampling_rate=SAMPLING_RATE),
+                    "sentence": datasets.Value("string"),
+                    "speaker": datasets.Value("string"),
+                    "start_timestamp": datasets.Value("float"),
+                    "end_timestamp": datasets.Value("float"),
+                    "overlap": datasets.Value("bool"),
+                }
+            ),
+            citation=_CITATION,
+        )
+
+    def _split_generators(self, dl_manager):
+        transcripts_train = dl_manager.download(
+            [os.path.join("transcripts_deduplicated_train", transcript) for transcript in
+             TRAIN_TRANSCRIPTS])
+        transcripts_test = dl_manager.download(
+            [os.path.join("transcripts_deduplicated_test", transcript) for transcript in
+             TEST_TRANSCRIPTS])
+        train_filenames = [os.path.splitext(transcript)[0] for transcript in TRAIN_TRANSCRIPTS]
+        test_filenames = [os.path.splitext(transcript)[0] for transcript in TEST_TRANSCRIPTS]
+        audio_train = dl_manager.download(
+            {transcript: f"audio/{transcript[:-2]}.mp4" for transcript in train_filenames})
+        audio_test = dl_manager.download(
+            {transcript: f"audio/{transcript[:-2]}.mp4" for transcript in test_filenames})
+
+        splits = [
+            datasets.SplitGenerator(
+                name=datasets.Split.TRAIN,
+                gen_kwargs={
+                    "transcripts": transcripts_train,
+                    "audio_files": audio_train
+                }
+            ),
+            datasets.SplitGenerator(
+                name=datasets.Split.TEST,
+                gen_kwargs={
+                    "transcripts": transcripts_test,
+                    "audio_files": audio_test
+                }
+            ),
+
+        ]
+
+        return splits
+
+    @staticmethod
+    def extract_text(elem):
+        text = elem.text or ''
+        for child in elem:
+            text += ESLO.extract_text(child)
+            if child.tail:
+                text += child.tail
+        return text
+
+    def clean_text(self, text: str) -> str:
+        def replace_uppercase(match):
+            """replaces BRUNO spelling  by B R U N O"""
+            return ' '.join(match.group(1))
+
+        text = re.sub(r"\bNPERS\b", "", text)
+        text = re.sub(r'\bOK\b', 'ok', text)
+        text = re.sub(r'\b([A-Z]+)\b', replace_uppercase, text)
+        if not self.config.hesitation:
+            text = re.sub(r"(euh)|(hm)|(\b\w*\-\s)", "", text)
+        return re.sub(r" +", " ", text).strip()
+
+    def load_one(self, file) -> List[Utterance]:
+        first_line = file.readline().decode()
+        encoding = re.search(r'encoding=["\']([^"]+)["\']', first_line).group(1)
+        text_content = file.read().decode(encoding)
+        root = ET.fromstring(text_content)
+        utts = []
+        for turn in root.findall(".//Turn"):
+            speaker = turn.get('speaker')
+            if not speaker:
+                continue
+            start_time = float(turn.get('startTime'))
+            end_time = float(turn.get('endTime'))
+            text = re.sub(r"[\r\n\s]+", " ", ESLO.extract_text(turn).strip())
+            text = self.clean_text(text)
+            if any(c.isalnum() for c in text):
+                utts.append(Utterance(
+                    speaker=speaker,
+                    sentence=text,
+                    start_timestamp=start_time,
+                    end_timestamp=end_time,
+                    overlap=len(speaker.split(" ")) > 1,
+                ))
+        return utts
+
+    @staticmethod
+    def load_audio(file: str, sr: int = SAMPLING_RATE):
+        """
+        Open an audio file and read as mono waveform, resampling as necessary
+        Parameters
+        ----------
+        file:vThe audio file to read
+        sr: int
+            The sample rate to resample the audio if necessary
+        Returns
+        -------
+        A NumPy array containing the audio waveform, in float32 dtype.
+        """
+        try:
+            # This launches a subprocess to decode audio while down-mixing and resampling as necessary.
+            # Requires the ffmpeg CLI and `ffmpeg-python` package to be installed.
+            out, _ = (
+                ffmpeg.input(file)
+                .output('-', format='s16le', acodec='pcm_s16le', ac=1, ar=sr)
+                .run(capture_stdout=True, capture_stderr=True)
+            )
+        except ffmpeg.Error as e:
+            raise RuntimeError(f"Failed to load audio: {e.stderr.decode()}") from e
+        return np.frombuffer(out, np.int16).flatten().astype(np.float32) / 32768.0
+
+    @staticmethod
+    def _cut_audio(audio: Array, start_timestamp: float, end_timestamp: float):
+        return audio[int(round(start_timestamp * SAMPLING_RATE)): int(round(end_timestamp * SAMPLING_RATE)) + 1]
+
+    def _generate_examples(self, transcripts, audio_files):
+        """Generate examples from a Multilingual LibriSpeech data dir."""
+        for path in transcripts:
+            transcript_name = os.path.splitext(os.path.basename(path))[0]
+            audio = self.load_audio(audio_files[transcript_name])
+            with open(path, "rb") as file:
+                for utterance in self.load_one(file):
+                    if not self.config.overlap and utterance.overlap:
+                        continue
+                    yield f"{transcript_name}_{utterance.start_timestamp}-{utterance.end_timestamp}", {
+                        "file": transcript_name,
+                        "sentence": utterance.sentence,
+                        "start_timestamp": utterance.start_timestamp,
+                        "end_timestamp": utterance.end_timestamp,
+                        "speaker": utterance.speaker,
+                        "overlap": utterance.overlap,
+                        "audio": {"path": transcript_name,
+                                  "array": self._cut_audio(audio, utterance.start_timestamp, utterance.end_timestamp),
+                                  "sampling_rate": 16000}}