anjalyjayakrishnan
commited on
Commit
•
0e7566a
1
Parent(s):
a20889f
- data/cleaned/{malayalam/ACT_011_010.wav → 1CH_002_034.wav} +2 -2
- data/{test-00000-of-00001-ac8b30a7ad9174a9.parquet → cleaned/1KI_010_023.wav} +2 -2
- data/{train-00000-of-00001-7bd5856c9fb9296f.parquet → cleaned/JOB_040_018.wav} +2 -2
- data/{raw/malayalam/ACT_011.mp3 → cleaned/NUM_029_015.wav} +2 -2
- data/cleaned/PSA_071_010.wav +3 -0
- data/experiments/malayalam/train_500.csv +0 -0
- data/experiments/malayalam/val_500.csv +0 -101
- data/experiments/train_500.csv +6 -0
- sample.py +138 -50
data/cleaned/{malayalam/ACT_011_010.wav → 1CH_002_034.wav}
RENAMED
@@ -1,3 +1,3 @@
|
|
1 |
version https://git-lfs.github.com/spec/v1
|
2 |
-
oid sha256:
|
3 |
-
size
|
|
|
1 |
version https://git-lfs.github.com/spec/v1
|
2 |
+
oid sha256:653d1f074612de12abd354ef91f84e3d70245213cf91755f7c122b0d77bd3764
|
3 |
+
size 843020
|
data/{test-00000-of-00001-ac8b30a7ad9174a9.parquet → cleaned/1KI_010_023.wav}
RENAMED
@@ -1,3 +1,3 @@
|
|
1 |
version https://git-lfs.github.com/spec/v1
|
2 |
-
oid sha256:
|
3 |
-
size
|
|
|
1 |
version https://git-lfs.github.com/spec/v1
|
2 |
+
oid sha256:d2c40073428cff974cd048e118cd0d717ea78b4749931d5b5f1c45f3d0389330
|
3 |
+
size 687116
|
data/{train-00000-of-00001-7bd5856c9fb9296f.parquet → cleaned/JOB_040_018.wav}
RENAMED
@@ -1,3 +1,3 @@
|
|
1 |
version https://git-lfs.github.com/spec/v1
|
2 |
-
oid sha256:
|
3 |
-
size
|
|
|
1 |
version https://git-lfs.github.com/spec/v1
|
2 |
+
oid sha256:a6367fa454fd857e22bf5a86273ee5aa33b837a409a212676c9bd9704897383b
|
3 |
+
size 581612
|
data/{raw/malayalam/ACT_011.mp3 → cleaned/NUM_029_015.wav}
RENAMED
@@ -1,3 +1,3 @@
|
|
1 |
version https://git-lfs.github.com/spec/v1
|
2 |
-
oid sha256:
|
3 |
-
size
|
|
|
1 |
version https://git-lfs.github.com/spec/v1
|
2 |
+
oid sha256:109b02c71be66015d323e81cb2fe4bea47592aefff85d56e6b2086fd50fe9d5f
|
3 |
+
size 654572
|
data/cleaned/PSA_071_010.wav
ADDED
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
1 |
+
version https://git-lfs.github.com/spec/v1
|
2 |
+
oid sha256:dc122ea28370b74af350ba72f134928b4a3e9914a9c8af796ab23aff89b37b8e
|
3 |
+
size 793964
|
data/experiments/malayalam/train_500.csv
DELETED
The diff for this file is too large to render.
See raw diff
|
|
data/experiments/malayalam/val_500.csv
DELETED
@@ -1,101 +0,0 @@
|
|
1 |
-
,sentence,path
|
2 |
-
14104,യോസേഫിനോടു യിസ്രായേൽ പറഞ്ഞത് ഇതാ ഞാൻ മരിക്കുന്നു ദൈവം നിങ്ങളോടുകൂടി ഇരുന്നു നിങ്ങളെ നിങ്ങളുടെ പിതാക്കന്മാരുടെ ദേശത്തേക്ക് മടക്കി കൊണ്ടുപോകും,cleaned/malayalam/GEN_048_021.wav
|
3 |
-
6271,ദാവീദ് അവനെ കർത്താവ് എന്നു വിളിക്കുന്നു പിന്നെ അവന്റെ പുത്രൻ ആകുന്നത് എങ്ങനെ എന്നു ചോദിച്ചു,cleaned/malayalam/LUK_020_044.wav
|
4 |
-
14769,അങ്ങനെ ജനം ദൂരത്ത് നിന്നു മോശെയോ ദൈവം ഇരുന്ന ഇരുളിന്റെ അടുത്തുചെന്നു,cleaned/malayalam/EXO_020_021.wav
|
5 |
-
5250,അതിന് രൂബേന്യരും ഗാദ്യരും മനശ്ശെയുടെ പാതിഗോത്രവും യിസ്രായേല്യസഹസ്രങ്ങളുടെ തലവന്മാരോട് ഉത്തരം പറഞ്ഞത്,cleaned/malayalam/JOS_022_021.wav
|
6 |
-
1184,ഞാൻ യിസ്രായേൽ മക്കളെ ഈജിപ്റ്റിൽനിന്നു കൊണ്ടുവന്നപ്പോൾ,cleaned/malayalam/LEV_023_042.wav
|
7 |
-
1232,യിസ്രായേൽ മക്കളോടു നീ പറയേണ്ടത് ഒരുവൻ യഹോവയ്ക്ക് ഒരു നേർച്ച നിവർത്തിക്കുമ്പോൾ ആൾ നിന്റെ മതിപ്പുപോലെ യഹോവയ്ക്കുള്ളവൻ ആകണം,cleaned/malayalam/LEV_027_002.wav
|
8 |
-
225,അപ്പോൾ മനുഷ്യന്റെ ഗർവ്വം കുനിയും പുരുഷന്മാരുടെ ഉന്നതഭാവം താഴും യഹോവ മാത്രം ആ നാളിൽ ഉന്നതനായിരിക്കും,cleaned/malayalam/ISA_002_017.wav
|
9 |
-
4570,പത്രൊസ് മുട്ടിക്കൊണ്ടിരുന്നു അവർ തുറന്നപ്പോൾ അവനെ കണ്ട് വിസ്മയിച്ചു,cleaned/malayalam/ACT_012_016.wav
|
10 |
-
9365,അപ്പോൾ രാജാവ് ജീവനുള്ള കുഞ്ഞിനെ രണ്ടായിപിളർന്ന് പാതി ഒരുത്തിക്കും പാതി മറ്റവൾക്കും കൊടുക്കുവിൻ എന്ന് കല്പിച്ചു,cleaned/malayalam/1KI_003_025.wav
|
11 |
-
11678,ദുഷ്ടന്മാർ ഗർഭംമുതൽ ഭ്രഷ്ടന്മാരായിരിക്കുന്നു അവർ ജനനംമുതൽ ഭോഷ്ക് പറഞ്ഞ് തെറ്റിനടക്കുന്നു,cleaned/malayalam/PSA_058_003.wav
|
12 |
-
6259,രണ്ടാമത്തവനും മൂന്നാമത്തവനും അവളെ പരിഗ്രഹിച്ച്,cleaned/malayalam/LUK_020_030.wav
|
13 |
-
7397,നാം നമ്മെത്തന്നെ വിധിച്ചാൽ വിധിക്കപ്പെടുകയില്ല,cleaned/malayalam/1CO_011_031.wav
|
14 |
-
12778,അങ്ങ് നല്ലവനും നന്മ ചെയ്യുന്നവനും ആകുന്നു അങ്ങയുടെ ചട്ടങ്ങൾ എനിക്ക് ഉപദേശിച്ചു തരണമേ,cleaned/malayalam/PSA_119_068.wav
|
15 |
-
17489,ദീർഘക്ഷമയുള്ളവൻ മഹാബുദ്ധിമാൻ മുൻകോപിയോ ഭോഷത്തം ഉയർത്തുന്നു,cleaned/malayalam/PRO_014_029.wav
|
16 |
-
2389,എന്നാൽ ഭൂവുടമ അവരിൽ ഒരുവനോട് ഉത്തരം പറഞ്ഞത് സ്നേഹിതാ ഞാൻ നിന്നോട് അന്യായം ചെയ്യുന്നില്ല നീ എന്നോട് ഒരു വെള്ളിക്കാശ് പറഞ്ഞു സമ്മതിച്ചില്ലയോ,cleaned/malayalam/MAT_020_013.wav
|
17 |
-
6617,അവനിൽ സർവ്വസമ്പൂർണ്ണതയും വസിക്കുവാനും,cleaned/malayalam/COL_001_019.wav
|
18 |
-
3159,ഹോരോനയീമിൽനിന്ന് നാശം മഹാസംഹാരം എന്നിങ്ങനെ നിലവിളികേൾക്കുന്നു,cleaned/malayalam/JER_048_003.wav
|
19 |
-
7990,കടം വാങ്ങിയവനു പണയം മടക്കിക്കൊടുക്കുകയും ആരോടും പിടിച്ചുപറിക്കാതെ തന്റെ അപ്പം വിശപ്പുള്ളവനു കൊടുക്കുകയും നഗ്നനെ ഉടുപ്പിക്കുകയും,cleaned/malayalam/EZK_018_007.wav
|
20 |
-
12953,യിസ്രായേല��� ഇന്നുമുതൽ എന്നേക്കും യഹോവയിൽ പ്രത്യാശ വച്ചുകൊള്ളുക,cleaned/malayalam/PSA_131_003.wav
|
21 |
-
3231,ഞാൻ നിശ്ചയമായി വെട്ടുക്കിളികളെപ്പോലെ മനുഷ്യരെക്കൊണ്ട് നിന്നെ നിറയ്ക്കും അവർ നിന്റെനേരെ ആർപ്പിടും എന്ന് സൈന്യങ്ങളുടെ യഹോവ തന്നെക്കൊണ്ടു തന്നെ സത്യം ചെയ്തിരിക്കുന്നു,cleaned/malayalam/JER_051_014.wav
|
22 |
-
12511,എന്നാൽ അവരുടെ നിലവിളികേട്ടപ്പോൾ കർത്താവ് അവരുടെ കഷ്ടത കടാക്ഷിച്ചു,cleaned/malayalam/PSA_106_044.wav
|
23 |
-
16508,ധൂപവർഗ്ഗം നിറഞ്ഞതും പത്ത് ശേക്കെൽ തൂക്കമുള്ളതുമായ ഒരു പൊൻകലശം,cleaned/malayalam/NUM_007_038.wav
|
24 |
-
4210,ദീർഘക്ഷമയാലും ദയയാലും പരിശുദ്ധാത്മാവിനാലും നിർവ്യാജസ്നേഹത്താലും,cleaned/malayalam/2CO_006_006.wav
|
25 |
-
17815,കഷ്ടകാലത്ത് അവിശ്വസ്തനെ ആശ്രയിക്കുന്നത് കേടുള്ള പല്ലും ഉളുക്കിയ കാലുംപോലെ ആകുന്നു,cleaned/malayalam/PRO_025_019.wav
|
26 |
-
16762,ആകയാൽ യഹോവ ഇനിയും എന്നോട് എന്ത് അരുളിച്ചെയ്യും എന്ന് ഞാൻ അറിയട്ടെ നിങ്ങളും ഈ രാത്രി ഇവിടെ പാർക്കുവിൻ എന്ന് ഉത്തരം പറഞ്ഞു,cleaned/malayalam/NUM_022_019.wav
|
27 |
-
4029,യേശു അവരോട് കുഞ്ഞുങ്ങളെ നിങ്ങൾക്ക് കഴിക്കുവാൻ വല്ലതും ഉണ്ടോ എന്നു ചോദിച്ചു ഇല്ല എന്നു അവർ ഉത്തരം പറഞ്ഞു,cleaned/malayalam/JHN_021_005.wav
|
28 |
-
5622,ജനം സെഖര്യാവിനായി കാത്തിരുന്നു അവൻ മന്ദിരത്തിൽ നിന്നു പുറത്തുവരാൻ താമസിച്ചതിനാൽ ആശ്ചര്യപ്പെട്ടു,cleaned/malayalam/LUK_001_021.wav
|
29 |
-
15244,രെയൂവേലിന്റെ പുത്രന്മാർ നഹത്ത് സേരഹ് ശമ്മാ മിസ്സാ,cleaned/malayalam/1CH_001_037.wav
|
30 |
-
7547,യഹോവയുടെ തേജസ്സ് ആലയത്തിൽ നിറഞ്ഞിരിക്കകൊണ്ട് പുരോഹിതന്മാർക്ക് ആലയത്തിൽ പ്രവേശിക്കുവാൻ കഴിഞ്ഞില്ല,cleaned/malayalam/2CH_007_002.wav
|
31 |
-
10448,അതിന്റെ പാത കഴുകൻ അറിയുന്നില്ല പരുന്തിന്റെ കണ്ണ് അതിനെ കണ്ടിട്ടില്ല,cleaned/malayalam/JOB_028_007.wav
|
32 |
-
690,സകലഭൂസീമാവാസികളുമായുള്ളവരേ എങ്കലേക്ക് തിരിഞ്ഞു രക്ഷപ്പെടുവിൻ ഞാനല്ലാതെ വേറൊരു ദൈവവും ഇല്ലല്ലോ,cleaned/malayalam/ISA_045_022.wav
|
33 |
-
8278,എന്റെ ദാസനായ ദാവീദ് അവർക്ക് രാജാവായിരിക്കും അവർക്കെല്ലാവർക്കും ഒരു ഇടയൻ ഉണ്ടാകും അവർ എന്റെ വിധികളിൽ നടന്ന് എന്റെ ചട്ടങ്ങളെ പ്രമാണിച്ച് അനുഷ്ഠിക്കും,cleaned/malayalam/EZK_037_024.wav
|
34 |
-
7905,നിങ്ങൾ വാളാൽ വീഴും യിസ്രായേലിന്റെ അതിർത്തിയിൽവച്ച് ഞാൻ നിങ്ങളെ ന്യായംവിധിക്കും ഞാൻ യഹോവ എന്ന് നിങ്ങൾ അറിയും,cleaned/malayalam/EZK_011_010.wav
|
35 |
-
8940,ആകയാൽ ദൈവം യോജിപ്പിച്ചതിനെ മനുഷ്യൻ വേർപിരിക്കരുത് എന്നു ഉത്തരം പറഞ്ഞു,cleaned/malayalam/MRK_010_009.wav
|
36 |
-
13154,കർത്താവ് നിന്റെ ദേശത്ത് സമാധാനം വരുത്തുന്നു വിശേഷമായ ഗോതമ്പുകൊണ്ട് നിനക്ക് തൃപ്തിവരുത്തുന്നു,cleaned/malayalam/PSA_147_014.wav
|
37 |
-
1524,ഇവിടെ ജ്ഞാനമുള്ള മനസ്സ് ആവശ്യം തല ഏഴും സ്ത്രീ ഇരിക്കുന്ന ഏഴ് മലകളാകുന്നു,cleaned/malayalam/REV_017_009.wav
|
38 |
-
16181,അങ്ങനെ അമാസാ യെഹൂദാപുരുഷന്മാരെ വിളിച്ചുകൂട്ടുവാൻ പോയി എന്നാൽ ദാവീദ് നിശ്ചയിച്ച അവധിയിലധികം അവൻ താമസിച്ചുപോയി,cleaned/malayalam/2SA_020_005.wav
|
39 |
-
7605,അവക്കു പകരം രെഹബെയാംരാജാവ് താമ്രംകൊണ്ട് പരിചകൾ ഉണ്ടാക്കി രാജധാനിയുടെ വാതിൽ കാവൽക്കാരായ അകമ്പടിനായകന്മാരുടെ കയ്യിൽ ഏല്പിച്ചു,cleaned/malayalam/2CH_012_010.wav
|
40 |
-
8936,യേശു അവരോട് നിങ്ങളുടെ ഹൃദയകാഠിന്യം നിമിത്തമത്രേ അവൻ നിങ്ങൾക്ക് ഈ കല്പന എഴുതിത്തന്നത്,cleaned/malayalam/MRK_010_005.wav
|
41 |
-
12472,യഹോവയെ സ്തുതിക്കുവിൻ യഹോവയ്ക്കു സ്തോത്രം ചെയ്യുവിൻ ദൈവം നല്ലവനല്ലയോ അവിടുത്തെ ദയ എന്നേക്കും ഉള്ളത്,cleaned/malayalam/PSA_106_001.wav
|
42 |
-
597,എന്റെ നിമിത്തവും എന്റെ ദാസനായ ദാവീദിന്റെ നിമിത്തവും ഞാൻ ഈ നഗരത്തെ പാലിച്ചു രക്ഷിക്കും എന്നു യഹോവയുടെ അരുളപ്പാട്,cleaned/malayalam/ISA_037_035.wav
|
43 |
-
4491,അവൻ ദമസ്കൊസിലുള്ള ശിഷ്യന്മാരോട് കൂടെ കുറേനാൾ പാർത്തു,cleaned/malayalam/ACT_009_019.wav
|
44 |
-
6840,നിന്റെ ദൈവമായ യഹോവ നിനക്ക് തരുന്ന ദേശത്ത് എത്തിയശേഷം അവിടുത്തെ ജനതകളുടെ മ്ലേച്ഛതകൾ നീ പഠിക്കരുത്,cleaned/malayalam/DEU_018_009.wav
|
45 |
-
13696,അനന്തരം യിസ്ഹാക്ക് യാക്കോബിനെ വിളിച്ച് അവനെ അനുഗ്രഹിച്ച് അവനോട് ആജ്ഞാപിച്ചു പറഞ്ഞത് നീ കനാന്യസ്ത്രീകളിൽനിന്നു ഭാര്യയെ എടുക്കരുത്,cleaned/malayalam/GEN_028_001.wav
|
46 |
-
1632,ലൂക്കോസ് മാത്രമേ എന്നോടുകൂടെ ഉള്ളൂ മർക്കൊസ് എനിക്ക് ശുശ്രൂഷയ്ക്കായി ഉപയോഗമുള്ളവൻ ആകയാൽ അവനെ കൂട്ടിക്കൊണ്ട് വരിക,cleaned/malayalam/2TI_004_011.wav
|
47 |
-
8835,നിങ്ങൾ ദൈവകല്പന വിട്ടുകളഞ്ഞ് മനുഷ്യരുടെ സമ്പ്രദായം മുറുകെപ്പിടിക്കുന്നു,cleaned/malayalam/MRK_007_008.wav
|
48 |
-
16759,മോവാബ്യപ്രഭുക്കന്മാർ പുറപ്പെട്ട് ബാലാക്കിന്റെ അടുക്കൽ ചെന്ന് ബിലെയാമിന് ഞങ്ങളോടുകൂടി വരുവാൻ മനസ്സില്ല എന്ന് പറഞ്ഞു,cleaned/malayalam/NUM_022_014.wav
|
49 |
-
11930,നിങ്ങളുടെ കൊമ്പ് മേലോട്ട് ഉയർത്തരുത് ശാഠ്യത്തോടെ സംസാരിക്കുകയുമരുത്,cleaned/malayalam/PSA_075_005.wav
|
50 |
-
6550,യഹോവയുടെ ന്യായപ്രമാണം പരിശോധിപ്പാനും അത് അനുസരിച്ച് നടപ്പാനും യിസ്രായേലിൽ അതിന്റെ ചട്ടങ്ങളും വിധികളും ഉപദേശിക്കുവാനും എസ്രാ മനസ്സുവെച്ചിരുന്നു,cleaned/malayalam/EZR_007_010.wav
|
51 |
-
5976,മുട്ട ചോദിച്ചാൽ തേളിനെ കൊടുക്കുമോ,cleaned/malayalam/LUK_011_012.wav
|
52 |
-
628,പ്രഭുക്കന്മാരെ ഇല്ലാതെയാക്കുകയും ഭൂമിയിലെ ന്യായാധിപന്മാരെ ശൂന്യമാക്കുകയും ചെയ്യുന്നു,cleaned/malayalam/ISA_040_023.wav
|
53 |
-
10407,അതിന് ഇയ്യോബ് ഉത്തരം പറഞ്ഞത്,cleaned/malayalam/JOB_026_001.wav
|
54 |
-
11066,എന്റെ ദൈവമായ യഹോവേ അങ്ങയെ ഞാൻ ശരണം പ്രാപിക്കുന്നു എന്നെ ഉപദ്രവിക്കുന്ന എല്ലാവരുടെയും കയ്യിൽനിന്ന് എന്ന��� രക്ഷിച്ചു വിടുവിക്കണമേ,cleaned/malayalam/PSA_007_001.wav
|
55 |
-
12563,ദൈവം തന്റെ വിശുദ്ധിയിൽ അരുളിച്ചെയ്തത് ഞാൻ ആനന്ദത്തോടെ ശെഖേമിനെ വിഭാഗിച്ച് സുക്കോത്ത് താഴ്വരയെ അളക്കും,cleaned/malayalam/PSA_108_007.wav
|
56 |
-
8082,അതുകൊണ്ട് ഒഹൊലീബയേ യഹോവയായ കർത്താവ് ഇപ്രകാരം അരുളിച്ചെയ്യുന്നു ബാബേല്ക്കാർ കല്ദയർ പെക്കോദ്യർ ശോവ്യർ,cleaned/malayalam/EZK_023_022.wav
|
57 |
-
1458,അവൻ നാലാം മുദ്ര പൊട്ടിച്ചപ്പോൾ വരിക എന്നു നാലാം ജീവി പറയുന്ന ശബ്ദം ഞാൻ കേട്ട്,cleaned/malayalam/REV_006_007.wav
|
58 |
-
17934,ഞാൻ ജ്ഞാനം അഭ്യസിച്ചിട്ടില്ല പരിശുദ്ധനായവന്റെ പരിജ്ഞാനം എനിക്കില്ല,cleaned/malayalam/PRO_030_003.wav
|
59 |
-
5304,ഏലി തൊണ്ണൂറ്റെട്ട് വയസ്സുള്ളവനും കാണുവാൻ കഴിയാതവണ്ണം കണ്ണ് മങ്ങിയവനും ആയിരുന്നു,cleaned/malayalam/1SA_004_015.wav
|
60 |
-
10035,ഞങ്ങളെ ഇരുവരെയും പറഞ്ഞു നിർത്തേണ്ടതിന് ഞങ്ങളുടെ നടുവിൽ ഒരു മദ്ധ്യസ്ഥനുമില്ല,cleaned/malayalam/JOB_009_033.wav
|
61 |
-
6698,ഇങ്ങനെ യോദ്ധാക്കൾ എല്ലാവരും ജനത്തിന്റെ ഇടയിൽനിന്ന് മരിച്ചുപോയി,cleaned/malayalam/DEU_002_016.wav
|
62 |
-
7771,മനശ്ശെ രാജാവായി വാഴ്ച തുടങ്ങിയപ്പോൾ അവന് പന്ത്രണ്ട് വയസ്സായിരുന്നു അവൻ അമ്പത്തഞ്ച് സംവത്സരം യെരൂശലേമിൽ വാണു,cleaned/malayalam/2CH_033_001.wav
|
63 |
-
4989,യഹോവ യോശുവയോട് സാക്ഷ്യപെട്ടകം ചുമക്കുന്ന പുരോഹിതന്മാരോട് യോർദ്ദാനിൽനിന്ന് കയറുവാൻ കല്പിക്ക എന്ന് അരുളിച്ചെയ്തു,cleaned/malayalam/JOS_004_016.wav
|
64 |
-
5673,നമ്മുടെ ദൈവത്തിന്റെ ആർദ്രകരുണയാൽ അവന്റെ ജനത്തിന് പാപമോചനം ലഭിക്കുമെന്ന് അറിയിക്കാനുമായി നീ അവന് മുമ്പായി നടക്കും,cleaned/malayalam/LUK_001_077.wav
|
65 |
-
10663,അതിന്റെ അളവ് നിയമിച്ചവൻ ആര് നീ അറിയുന്നുവോ അല്ല അതിന് അളവുനൂൽ പിടിച്ചവനാര്,cleaned/malayalam/JOB_038_005.wav
|
66 |
-
3720,അതുകൊണ്ടാണ് അവന്റെ മാതാപിതാക്കൾ അവന് പ്രായം ഉണ്ടല്ലോ അവനോട് ചോദിപ്പിൻ എന്നു പറഞ്ഞത്,cleaned/malayalam/JHN_009_023.wav
|
67 |
-
3101,ചുരുൾ ചുട്ടുകളയരുതേ എന്ന് എൽനാഥാനും ദെലായാവും ഗെമര്യാവും രാജാവിനോട് അപേക്ഷിച്ചു എങ്കിലും അവൻ അവരുടെ അപേക്ഷ കേട്ടില്ല,cleaned/malayalam/JER_036_025.wav
|
68 |
-
5399,പിന്നെ ശമൂവേൽ പോകുവാൻ തിരിഞ്ഞപ്പോൾ ശൌല് അവന്റെ നിലയങ്കിയുടെ അറ്റം പിടിച്ച് വലിച്ചു അത് കീറിപ്പോയി,cleaned/malayalam/1SA_015_027.wav
|
69 |
-
13722,എന്നാൽ അടുത്ത് ഏഴു വർഷംകൂടി നീ എനിക്കുവേണ്ടി സേവനം ചെയ്യുമെങ്കിൽ ഞങ്ങൾ റാഹേലിനേയും നിനക്ക് തരും എന്നു പറഞ്ഞു,cleaned/malayalam/GEN_029_027.wav
|
70 |
-
6865,ന്യായധിപന്മാരും പുറത്ത് ചെന്ന് കൊല്ലപ്പെട്ടവന്റെ ചുറ്റുമുള്ള ഓരോ പട്ടണം വരെയുമുള്ള ദൂരം അളക്കണം,cleaned/malayalam/DEU_021_002.wav
|
71 |
-
3802,ചിലരോ കുരുടന്റെ കണ്ണ് തുറന്ന ഇവന് ഇവനെയും മരിക്കാതാക്കുവാൻ കഴിഞ്ഞില്ലയോ എന്നു പറഞ്ഞു,cleaned/malayalam/JHN_011_037.wav
|
72 |
-
889,യഹോവ പിന്നെയും മോശെയോട് അരുളിച്ചെയ്തത്,cleaned/malayalam/LEV_006_024.wav
|
73 |
-
7869,യഹോവയായ കർത്താവ് ഇപ്രകാരം അരുളിച്ചെയ്യുന്നു ഒരു അനർത്ഥം ഒരു അനർത്ഥം ഇതാ വരുന്നു,cleaned/malayalam/EZK_007_005.wav
|
74 |
-
14808,അവളെ അവന് കൊടുക്കുവാൻ അവളുടെ അപ്പന് അശേഷം മനസ്സില്ലെങ്കിൽ അവൻ കന്യകമാരുടെ സ്ത്രീധനത്തിന് ഒത്തവണ്ണം പണം കൊടുക്കണം,cleaned/malayalam/EXO_022_017.wav
|
75 |
-
7981,യഹോവയുടെ അരുളപ്പാട് എനിക്കുണ്ടായതെന്തെന്നാൽ,cleaned/malayalam/EZK_017_011.wav
|
76 |
-
15439,കെദേമോത്തും പുല്പുറങ്ങളും മേഫാത്തും പുല്പുറങ്ങളും,cleaned/malayalam/1CH_006_079.wav
|
77 |
-
12918,നമ്മളെ അവരുടെ പല്ലുകൾക്ക് ഇരയായി കൊടുക്കായ്കയാൽ യഹോവ വാഴ്ത്തപ്പെടുമാറാകട്ടെ,cleaned/malayalam/PSA_124_006.wav
|
78 |
-
16539,യഹോവ മോശെയോട് അരുളിച്ചെയ്തത്,cleaned/malayalam/NUM_008_001.wav
|
79 |
-
171,ഞാൻ അവരെ യഹോവയിൽ ബലപ്പെടുത്തും അവർ അവന്റെ നാമത്തിൽ സഞ്ചരിക്കും എന്നു യഹോവയുടെ അരുളപ്പാട്,cleaned/malayalam/ZEC_010_012.wav
|
80 |
-
7460,അപമാനത്തിൽ വിതയ്ക്കപ്പെടുന്നു തേജസ്സിൽ ഉയിർക്കുന്നു ബലഹീനതയിൽ വിതയ്ക്കപ്പെടുന്നു ശക്തിയിൽ ഉയിർക്കുന്നു,cleaned/malayalam/1CO_015_043.wav
|
81 |
-
12372,അവിടുന്ന് അനന്യനാകുന്നു അങ്ങയുടെ സംവത്സരങ്ങൾ അവസാനിക്കുകയുമില്ല,cleaned/malayalam/PSA_102_027.wav
|
82 |
-
13906,എന്നാൽ മിദ്യാന്യർ അവനെ ഈജിപ്റ്റിൽ ഫറവോന്റെ ഒരു ഉദ്യോഗസ്ഥനായി അംഗരക്ഷകരുടെ നായകനായ പോത്തീഫറിനു വിറ്റു,cleaned/malayalam/GEN_037_036.wav
|
83 |
-
12482,എങ്കിലും അവർ വേഗത്തിൽ കർത്താവിന്റെ പ്രവൃത്തികളെ മറന്നു ദൈവത്തിന്റെ ആലോചനയ്ക്കായി കാത്തിരുന്നതുമില്ല,cleaned/malayalam/PSA_106_013.wav
|
84 |
-
9155,ആഴ്ചവട്ടത്തിന്റെ ഒന്നാം നാൾ അതികാലത്ത് സൂര്യൻ ഉദിച്ചപ്പോൾ തന്നേ അവർ കല്ലറയ്ക്കൽ ചെന്ന്,cleaned/malayalam/MRK_016_002.wav
|
85 |
-
2752,നീ ഇന്നുമുതൽ എന്നോട് എന്റെ പിതാവേ നീ എന്റെ യൗവനത്തിലെ സഖി എന്ന് വിളിച്ചുപറയുകയില്ലയോ,cleaned/malayalam/JER_003_004.wav
|
86 |
-
5555,ദാവീദ് ഫെലിസ്ത്യദേശത്ത് ഒരു വർഷവും നാല് മാസവും താമസിച്ചു,cleaned/malayalam/1SA_027_007.wav
|
87 |
-
9618,അനന്തരം നൂനിന്റെ മകനും യഹോവയുടെ ദാസനുമായ യോശുവ നൂറ്റിപ്പത്താമത്തെ വയസ്സിൽ മരിച്ചു,cleaned/malayalam/JDG_002_008.wav
|
88 |
-
8232,യഹോവയുടെ അരുളപ്പാട് എനിക്കുണ്ടായതെന്തെന്നാൽ,cleaned/malayalam/EZK_035_001.wav
|
89 |
-
3718,കുരുടനായി ജനിച്ചു എന്നു നിങ്ങൾ പറയുന്ന നിങ്ങളുടെ മകൻ ഇവൻ തന്നെയോ എന്നാൽ അവന് ഇപ്പോൾ കണ്ണ് കാണുന്നത് എങ്ങനെ എന്നു അവർ അവരോട് ചോദിച്ചു,cleaned/malayalam/JHN_009_019.wav
|
90 |
-
7158,നിന്റെ ശരീരാകൃതി പനയോടും നിന്റെ സ്തനങ്ങൾ മുന്തിരിക്കുലയോടും സദൃശം,cleaned/malayalam/SNG_007_008.wav
|
91 |
-
12545,അവർ ജനത്തിന്റെ സഭയിൽ അവിടുത്തെ പുകഴ്ത്തുകയും മൂപ്പന്മാരുടെ സംഘത്തിൽ അവിടുത്തെ സ്തുതിക്കുകയും ചെയ്യട്ടെ,cleaned/malayalam/PSA_107_032.wav
|
92 |
-
6054,യേശു അവളെ കണ്ട് അടുക്കെ വിളിച്ചു സ്ത്രീയേ നിന്റെ രോഗത്തിൽ നിന്നും വിടുതൽ ലഭിച്ചിരിക്കുന്നു എന്നു പറഞ്ഞു അവളുടെമേൽ കൈവച്ചു,cleaned/malayalam/LUK_013_012.wav
|
93 |
-
17688,ഉല്ലാസപ്രിയൻ ദരിദ്രനായിത്തീരും വീഞ്ഞും തൈലവും പ്രിയപ്പെടുന്നവൻ ധനവാനാകുകയില്ല,cleaned/malayalam/PRO_021_017.wav
|
94 |
-
10673,ദുഷ്ടന്മാർക്ക് വെളിച്ചം മുടങ്ങിപ്പോകുന്നു ഓങ്ങിയ ഭുജവും ഒടിഞ്ഞുപോകുന്നു,cleaned/malayalam/JOB_038_015.wav
|
95 |
-
11158,മരണമാകുന്ന കയറ് എന്നെ ചുറ്റി അഗാധപ്രവാഹങ്ങൾ എന്നെ ഭ്രമിപ്പിച്ചു,cleaned/malayalam/PSA_018_004.wav
|
96 |
-
16802,ഇരുപത്തിനാലായിരംപേർ ബാധകൊണ്ട് മരിച്ചുപോയി,cleaned/malayalam/NUM_025_009.wav
|
97 |
-
4512,അവൻ വളരെ വിശന്നിട്ട് ഭക്ഷിക്കുവാൻ ആഗ്രഹിച്ചു അവർ ഭക്ഷണം ഒരുക്കുമ്പോഴേക്കും അവന് ഒരു വിവശത ഉണ്ടായി,cleaned/malayalam/ACT_010_010.wav
|
98 |
-
11548,സൈന്യങ്ങളുടെ യഹോവ നമ്മോടുകൂടെ ഉണ്ട് യാക്കോബിന്റെ ദൈവം നമ്മുടെ സങ്കേതം ആകുന്നു സേലാ,cleaned/malayalam/PSA_046_011.wav
|
99 |
-
11416,എന്റെ കുറ്റം തെളിയുകയും വെറുക്കപ്പെടുകയും ചെയ്യുകയില്ല എന്നിങ്ങനെ അവൻ തന്നോട് തന്നെ മധുരവാക്ക് പറയുന്നു,cleaned/malayalam/PSA_036_002.wav
|
100 |
-
16313,യഥാർത്ഥ വിധവമാരായിരിക്കുന്നവരെ മാനിയ്ക്കുക,cleaned/malayalam/1TI_005_003.wav
|
101 |
-
12029,ദൈവം യെഹൂദാഗോത്രത്തെയും താൻ പ്രിയപ്പെട്ട സീയോൻ പർവ്വതത്തെയും തിരഞ്ഞെടുത്തു,cleaned/malayalam/PSA_078_068.wav
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
data/experiments/train_500.csv
ADDED
@@ -0,0 +1,6 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
Unnamed: 0,sentence,path
|
2 |
+
6628,और चौदहों भेड़ के बच्चों में से एकएक बच्चे के साथ एपा का दसवाँ अंश मैदा चढ़ाना,data/cleaned/hindi/NUM/NUM_029_015.wav
|
3 |
+
11353,इस प्रकार राजा सुलैमान धन और बुद्धि में पृथ्वी के सब राजाओं से बढ़कर हो गया,data/cleaned/hindi/1KI/1KI_010_023.wav
|
4 |
+
7704,क्योंकि मेरे शत्रु मेरे विषय बातें करते हैं और जो मेरे प्राण की ताक में हैं वे आपस में यह सम्मति करते हैं कि,data/cleaned/hindi/PSA/PSA_071_010.wav
|
5 |
+
254,शेशान के तो बेटा न हुआ केवल बेटियाँ हुई शेशान के पास यर्हा नाम एक मिस्री दास था,data/cleaned/hindi/1CH/1CH_002_034.wav
|
6 |
+
5011,उसकी हड्डियाँ मानो पीतल की नलियाँ हैं उसकी पसलियाँ मानो लोहे के बेंड़े हैं,data/cleaned/hindi/JOB/JOB_040_018.wav
|
sample.py
CHANGED
@@ -1,73 +1,161 @@
|
|
1 |
-
#
|
2 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
3 |
|
4 |
import os
|
5 |
-
|
6 |
-
|
7 |
import datasets
|
8 |
import pandas as pd
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
9 |
|
10 |
_DESCRIPTION = """\
|
11 |
-
|
12 |
-
|
13 |
-
|
14 |
-
|
15 |
-
sentences. The sentences were presented using one of six different emotions
|
16 |
-
(Anger, Disgust, Fear, Happy, Neutral, and Sad) and four different emotion
|
17 |
-
levels (Low, Medium, High, and Unspecified).
|
18 |
"""
|
19 |
|
20 |
-
_HOMEPAGE = "https://
|
|
|
|
|
21 |
|
22 |
-
|
23 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
24 |
|
25 |
-
class Sample(datasets.GeneratorBasedBuilder):
|
26 |
-
"""Crema-D dataset."""
|
27 |
|
28 |
-
|
29 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
30 |
|
31 |
def _info(self):
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
32 |
return datasets.DatasetInfo(
|
33 |
description=_DESCRIPTION,
|
34 |
-
features=
|
35 |
-
|
36 |
-
),
|
37 |
-
supervised_keys=("file", "label"),
|
38 |
homepage=_HOMEPAGE,
|
|
|
|
|
39 |
)
|
40 |
|
41 |
-
def _split_generators(
|
42 |
-
|
43 |
-
|
44 |
-
|
45 |
-
|
46 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
47 |
datasets.SplitGenerator(
|
48 |
-
name="
|
49 |
-
|
50 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
51 |
|
52 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
53 |
|
54 |
-
|
55 |
-
|
56 |
key = 0
|
57 |
-
|
58 |
-
|
59 |
-
|
60 |
-
|
61 |
-
|
62 |
-
|
63 |
-
|
64 |
-
|
65 |
-
|
66 |
-
|
67 |
-
|
68 |
-
examples.append(res)
|
69 |
-
|
70 |
-
for example in examples:
|
71 |
-
yield key, {**example}
|
72 |
-
key += 1
|
73 |
-
examples = []
|
|
|
1 |
+
# Copyright 2020 The HuggingFace Datasets Authors and the current dataset script contributor.
|
2 |
+
#
|
3 |
+
# Licensed under the Apache License, Version 2.0 (the "License");
|
4 |
+
# you may not use this file except in compliance with the License.
|
5 |
+
# You may obtain a copy of the License at
|
6 |
+
#
|
7 |
+
# http://www.apache.org/licenses/LICENSE-2.0
|
8 |
+
#
|
9 |
+
# Unless required by applicable law or agreed to in writing, software
|
10 |
+
# distributed under the License is distributed on an "AS IS" BASIS,
|
11 |
+
# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
|
12 |
+
# See the License for the specific language governing permissions and
|
13 |
+
# limitations under the License.
|
14 |
+
# TODO: Address all TODOs and remove all explanatory comments
|
15 |
+
"""TODO: Add a description here."""
|
16 |
|
17 |
import os
|
18 |
+
import csv
|
19 |
+
import json
|
20 |
import datasets
|
21 |
import pandas as pd
|
22 |
+
from scipy.io import wavfile
|
23 |
+
|
24 |
+
|
25 |
+
_CITATION = """\
|
26 |
+
@inproceedings{Raju2022SnowMD,
|
27 |
+
title={Snow Mountain: Dataset of Audio Recordings of The Bible in Low Resource Languages},
|
28 |
+
author={Kavitha Raju and V. Anjaly and R. Allen Lish and Joel Mathew},
|
29 |
+
year={2022}
|
30 |
+
}
|
31 |
+
|
32 |
+
"""
|
33 |
|
34 |
_DESCRIPTION = """\
|
35 |
+
The Snow Mountain dataset contains the audio recordings (in .mp3 format) and the corresponding text of The Bible
|
36 |
+
in 11 Indian languages. The recordings were done in a studio setting by native speakers. Each language has a single
|
37 |
+
speaker in the dataset. Most of these languages are geographically concentrated in the Northern part of India around
|
38 |
+
the state of Himachal Pradesh. Being related to Hindi they all use the Devanagari script for transcription.
|
|
|
|
|
|
|
39 |
"""
|
40 |
|
41 |
+
_HOMEPAGE = "https://gitlabdev.bridgeconn.com/software/research/datasets/snow-mountain"
|
42 |
+
|
43 |
+
_LICENSE = ""
|
44 |
|
45 |
+
_URL = "https://gitlabdev.bridgeconn.com/software/research/datasets/snow-mountain/"
|
46 |
|
47 |
+
_FILES = {
|
48 |
+
"hindi": {
|
49 |
+
"train_500": "data/experiments/hindi/train_500.csv",
|
50 |
+
# "val_500": "data/experiments/hindi/val_500.csv",
|
51 |
+
# "train_1000": "data/experiments/hindi/train_1000.csv",
|
52 |
+
# "val_1000": "data/experiments/hindi/val_1000.csv",
|
53 |
+
# "test_common": "data/experiments/hindi/test_common.csv",
|
54 |
+
},
|
55 |
+
# "haryanvi": {
|
56 |
+
# "train_500": "data/experiments/haryanvi/train_500.csv",
|
57 |
+
# "val_500": "data/experiments/haryanvi/val_500.csv",
|
58 |
+
# "train_1000": "data/experiments/haryanvi/train_1000.csv",
|
59 |
+
# "val_1000": "data/experiments/haryanvi/val_1000.csv",
|
60 |
+
# "test_common": "data/experiments/haryanvi/test_common.csv",
|
61 |
+
# }
|
62 |
+
}
|
63 |
|
|
|
|
|
64 |
|
65 |
+
class Test(datasets.GeneratorBasedBuilder):
|
66 |
+
|
67 |
+
VERSION = datasets.Version("1.0.0")
|
68 |
+
|
69 |
+
BUILDER_CONFIGS = [
|
70 |
+
datasets.BuilderConfig(name="hindi", version=VERSION, description="Hindi data"),
|
71 |
+
# datasets.BuilderConfig(name="haryanvi", version=VERSION, description="Haryanvi data"),
|
72 |
+
]
|
73 |
+
|
74 |
+
DEFAULT_CONFIG_NAME = "hindi"
|
75 |
|
76 |
def _info(self):
|
77 |
+
features = datasets.Features(
|
78 |
+
{
|
79 |
+
# "unnamed": datasets.Value("int64"),
|
80 |
+
"sentence": datasets.Value("string"),
|
81 |
+
"path": datasets.Value("string"),
|
82 |
+
"audio": datasets.Audio(sampling_rate=16_000),
|
83 |
+
}
|
84 |
+
)
|
85 |
return datasets.DatasetInfo(
|
86 |
description=_DESCRIPTION,
|
87 |
+
features=features,
|
88 |
+
supervised_keys=("sentence", "path"),
|
|
|
|
|
89 |
homepage=_HOMEPAGE,
|
90 |
+
license=_LICENSE,
|
91 |
+
citation=_CITATION,
|
92 |
)
|
93 |
|
94 |
+
def _split_generators(self, dl_manager):
|
95 |
+
|
96 |
+
# urls_to_download = {
|
97 |
+
# "train_500": os.path.join(_URL, _FILES[self.config.name]["train_500"]),
|
98 |
+
# "val_500": os.path.join(_URL, _FILES[self.config.name]["val_500"]),
|
99 |
+
# "train_1000": os.path.join(_URL, _FILES[self.config.name]["train_1000"]),
|
100 |
+
# "val_1000": os.path.join(_URL, _FILES[self.config.name]["val_1000"]),
|
101 |
+
# "test_common": os.path.join(_URL, _FILES[self.config.name]["test_common"]),
|
102 |
+
# }
|
103 |
+
downloaded_files = dl_manager.download(_FILES[self.config.name])
|
104 |
+
|
105 |
+
train_splits = [
|
106 |
datasets.SplitGenerator(
|
107 |
+
name="train_500",
|
108 |
+
gen_kwargs={
|
109 |
+
"filepath": downloaded_files["train_500"],
|
110 |
+
},
|
111 |
+
),
|
112 |
+
# datasets.SplitGenerator(
|
113 |
+
# name="train_1000",
|
114 |
+
# gen_kwargs={
|
115 |
+
# "filepath": downloaded_files["train_1000"],
|
116 |
+
# },
|
117 |
+
# ),
|
118 |
+
]
|
119 |
+
|
120 |
+
# dev_splits = [
|
121 |
+
# datasets.SplitGenerator(
|
122 |
+
# name="val_500",
|
123 |
+
# gen_kwargs={
|
124 |
+
# "filepath": downloaded_files["val_500"],
|
125 |
+
# },
|
126 |
+
# ),
|
127 |
+
# datasets.SplitGenerator(
|
128 |
+
# name="val_1000",
|
129 |
+
# gen_kwargs={
|
130 |
+
# "filepath": downloaded_files["val_1000"],
|
131 |
+
# },
|
132 |
+
# ),
|
133 |
+
# ]
|
134 |
|
135 |
+
# test_splits = [
|
136 |
+
# datasets.SplitGenerator(
|
137 |
+
# name="test_common",
|
138 |
+
# gen_kwargs={
|
139 |
+
# "filepath": downloaded_files["test_common"],
|
140 |
+
# },
|
141 |
+
# ),
|
142 |
+
# ]
|
143 |
+
dev_splits = []
|
144 |
+
test_splits = []
|
145 |
+
|
146 |
+
return train_splits + dev_splits + test_splits
|
147 |
|
148 |
+
|
149 |
+
def _generate_examples(self, filepath):
|
150 |
key = 0
|
151 |
+
with open(filepath) as f:
|
152 |
+
data_df = pd.read_csv(f,sep=',')
|
153 |
+
transcripts = []
|
154 |
+
for index,row in data_df.iterrows():
|
155 |
+
samplerate, audio_data = wavfile.read('data/'+row["path"])
|
156 |
+
yield key, {
|
157 |
+
"sentence": row["sentence"],
|
158 |
+
"path": row["path"],
|
159 |
+
"audio":{"path": 'data/'+row["path"], "bytes": audio_data}
|
160 |
+
}
|
161 |
+
key+=1
|
|
|
|
|
|
|
|
|
|
|
|