anjalyjayakrishnan commited on
Commit
0e7566a
1 Parent(s): a20889f
data/cleaned/{malayalam/ACT_011_010.wav → 1CH_002_034.wav} RENAMED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:0aa523a4f025ae23a7d334137d6ca5a6253a0779d6e3122c4757b44d039ec7dd
3
- size 517388
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:653d1f074612de12abd354ef91f84e3d70245213cf91755f7c122b0d77bd3764
3
+ size 843020
data/{test-00000-of-00001-ac8b30a7ad9174a9.parquet → cleaned/1KI_010_023.wav} RENAMED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:f8b96c99a3b5e9dc3568d045cee6da31cbc5af93fb222cd45172d2a855ff202d
3
- size 3580
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d2c40073428cff974cd048e118cd0d717ea78b4749931d5b5f1c45f3d0389330
3
+ size 687116
data/{train-00000-of-00001-7bd5856c9fb9296f.parquet → cleaned/JOB_040_018.wav} RENAMED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:ca7ed84bf6cad6f54405a42b0b63877d499b73c6da421cc4383a45916d93794f
3
- size 4203
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a6367fa454fd857e22bf5a86273ee5aa33b837a409a212676c9bd9704897383b
3
+ size 581612
data/{raw/malayalam/ACT_011.mp3 → cleaned/NUM_029_015.wav} RENAMED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:ea6069eb0e6f2a0f32b8aa7de313a72abc564cd1bbe38ed92079c62d8352a10b
3
- size 11082605
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:109b02c71be66015d323e81cb2fe4bea47592aefff85d56e6b2086fd50fe9d5f
3
+ size 654572
data/cleaned/PSA_071_010.wav ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:dc122ea28370b74af350ba72f134928b4a3e9914a9c8af796ab23aff89b37b8e
3
+ size 793964
data/experiments/malayalam/train_500.csv DELETED
The diff for this file is too large to render. See raw diff
 
data/experiments/malayalam/val_500.csv DELETED
@@ -1,101 +0,0 @@
1
- ,sentence,path
2
- 14104,യോസേഫിനോടു യിസ്രായേൽ പറഞ്ഞത് ഇതാ ഞാൻ മരിക്കുന്നു ദൈവം നിങ്ങളോടുകൂടി ഇരുന്നു നിങ്ങളെ നിങ്ങളുടെ പിതാക്കന്മാരുടെ ദേശത്തേക്ക് മടക്കി കൊണ്ടുപോകും,cleaned/malayalam/GEN_048_021.wav
3
- 6271,ദാവീദ് അവനെ കർത്താവ് എന്നു വിളിക്കുന്നു പിന്നെ അവന്റെ പുത്രൻ ആകുന്നത് എങ്ങനെ എന്നു ചോദിച്ചു,cleaned/malayalam/LUK_020_044.wav
4
- 14769,അങ്ങനെ ജനം ദൂരത്ത് നിന്നു മോശെയോ ദൈവം ഇരുന്ന ഇരുളിന്റെ അടുത്തുചെന്നു,cleaned/malayalam/EXO_020_021.wav
5
- 5250,അതിന് രൂബേന്യരും ഗാദ്യരും മനശ്ശെയുടെ പാതിഗോത്രവും യിസ്രായേല്യസഹസ്രങ്ങളുടെ തലവന്മാരോട് ഉത്തരം പറഞ്ഞത്,cleaned/malayalam/JOS_022_021.wav
6
- 1184,ഞാൻ യിസ്രായേൽ മക്കളെ ഈജിപ്റ്റിൽനിന്നു കൊണ്ടുവന്നപ്പോൾ,cleaned/malayalam/LEV_023_042.wav
7
- 1232,യിസ്രായേൽ മക്കളോടു നീ പറയേണ്ടത് ഒരുവൻ യഹോവയ്ക്ക് ഒരു നേർച്ച നിവർത്തിക്കുമ്പോൾ ആൾ നിന്റെ മതിപ്പുപോലെ യഹോവയ്ക്കുള്ളവൻ ആകണം,cleaned/malayalam/LEV_027_002.wav
8
- 225,അപ്പോൾ മനുഷ്യന്റെ ഗർവ്വം കുനിയും പുരുഷന്മാരുടെ ഉന്നതഭാവം താഴും യഹോവ മാത്രം ആ നാളിൽ ഉന്നതനായിരിക്കും,cleaned/malayalam/ISA_002_017.wav
9
- 4570,പത്രൊസ് മുട്ടിക്കൊണ്ടിരുന്നു അവർ തുറന്നപ്പോൾ അവനെ കണ്ട് വിസ്മയിച്ചു,cleaned/malayalam/ACT_012_016.wav
10
- 9365,അപ്പോൾ രാജാവ് ജീവനുള്ള കുഞ്ഞിനെ രണ്ടായിപിളർന്ന് പാതി ഒരുത്തിക്കും പാതി മറ്റവൾക്കും കൊടുക്കുവിൻ എന്ന് കല്പിച്ചു,cleaned/malayalam/1KI_003_025.wav
11
- 11678,ദുഷ്ടന്മാർ ഗർഭംമുതൽ ഭ്രഷ്ടന്മാരായിരിക്കുന്നു അവർ ജനനംമുതൽ ഭോഷ്ക് പറഞ്ഞ് തെറ്റിനടക്കുന്നു,cleaned/malayalam/PSA_058_003.wav
12
- 6259,രണ്ടാമത്തവനും മൂന്നാമത്തവനും അവളെ പരിഗ്രഹിച്ച്,cleaned/malayalam/LUK_020_030.wav
13
- 7397,നാം നമ്മെത്തന്നെ വിധിച്ചാൽ വിധിക്കപ്പെടുകയില്ല,cleaned/malayalam/1CO_011_031.wav
14
- 12778,അങ്ങ് നല്ലവനും നന്മ ചെയ്യുന്നവനും ആകുന്നു അങ്ങയുടെ ചട്ടങ്ങൾ എനിക്ക് ഉപദേശിച്ചു തരണമേ,cleaned/malayalam/PSA_119_068.wav
15
- 17489,ദീർഘക്ഷമയുള്ളവൻ മഹാബുദ്ധിമാൻ മുൻകോപിയോ ഭോഷത്തം ഉയർത്തുന്നു,cleaned/malayalam/PRO_014_029.wav
16
- 2389,എന്നാൽ ഭൂവുടമ അവരിൽ ഒരുവനോട് ഉത്തരം പറഞ്ഞത് സ്നേഹിതാ ഞാൻ നിന്നോട് അന്യായം ചെയ്യുന്നില്ല നീ എന്നോട് ഒരു വെള്ളിക്കാശ് പറഞ്ഞു സമ്മതിച്ചില്ലയോ,cleaned/malayalam/MAT_020_013.wav
17
- 6617,അവനിൽ സർവ്വസമ്പൂർണ്ണതയും വസിക്കുവാനും,cleaned/malayalam/COL_001_019.wav
18
- 3159,ഹോരോനയീമിൽനിന്ന് നാശം മഹാസംഹാരം എന്നിങ്ങനെ നിലവിളികേൾക്കുന്നു,cleaned/malayalam/JER_048_003.wav
19
- 7990,കടം വാങ്ങിയവനു പണയം മടക്കിക്കൊടുക്കുകയും ആരോടും പിടിച്ചുപറിക്കാതെ തന്റെ അപ്പം വിശപ്പുള്ളവനു കൊടുക്കുകയും നഗ്നനെ ഉടുപ്പിക്കുകയും,cleaned/malayalam/EZK_018_007.wav
20
- 12953,യിസ്രായേല��� ഇന്നുമുതൽ എന്നേക്കും യഹോവയിൽ പ്രത്യാശ വച്ചുകൊള്ളുക,cleaned/malayalam/PSA_131_003.wav
21
- 3231,ഞാൻ നിശ്ചയമായി വെട്ടുക്കിളികളെപ്പോലെ മനുഷ്യരെക്കൊണ്ട് നിന്നെ നിറയ്ക്കും അവർ നിന്റെനേരെ ആർപ്പിടും എന്ന് സൈന്യങ്ങളുടെ യഹോവ തന്നെക്കൊണ്ടു തന്നെ സത്യം ചെയ്തിരിക്കുന്നു,cleaned/malayalam/JER_051_014.wav
22
- 12511,എന്നാൽ അവരുടെ നിലവിളികേട്ടപ്പോൾ കർത്താവ് അവരുടെ കഷ്ടത കടാക്ഷിച്ചു,cleaned/malayalam/PSA_106_044.wav
23
- 16508,ധൂപവർഗ്ഗം നിറഞ്ഞതും പത്ത് ശേക്കെൽ തൂക്കമുള്ളതുമായ ഒരു പൊൻകലശം,cleaned/malayalam/NUM_007_038.wav
24
- 4210,ദീർഘക്ഷമയാലും ദയയാലും പരിശുദ്ധാത്മാവിനാലും നിർവ്യാജസ്നേഹത്താലും,cleaned/malayalam/2CO_006_006.wav
25
- 17815,കഷ്ടകാലത്ത് അവിശ്വസ്തനെ ആശ്രയിക്കുന്നത് കേടുള്ള പല്ലും ഉളുക്കിയ കാലുംപോലെ ആകുന്നു,cleaned/malayalam/PRO_025_019.wav
26
- 16762,ആകയാൽ യഹോവ ഇനിയും എന്നോട് എന്ത് അരുളിച്ചെയ്യും എന്ന് ഞാൻ അറിയട്ടെ നിങ്ങളും ഈ രാത്രി ഇവിടെ പാർക്കുവിൻ എന്ന് ഉത്തരം പറഞ്ഞു,cleaned/malayalam/NUM_022_019.wav
27
- 4029,യേശു അവരോട് കുഞ്ഞുങ്ങളെ നിങ്ങൾക്ക് കഴിക്കുവാൻ വല്ലതും ഉണ്ടോ എന്നു ചോദിച്ചു ഇല്ല എന്നു അവർ ഉത്തരം പറഞ്ഞു,cleaned/malayalam/JHN_021_005.wav
28
- 5622,ജനം സെഖര്യാവിനായി കാത്തിരുന്നു അവൻ മന്ദിരത്തിൽ നിന്നു പുറത്തുവരാൻ താമസിച്ചതിനാൽ ആശ്ചര്യപ്പെട്ടു,cleaned/malayalam/LUK_001_021.wav
29
- 15244,രെയൂവേലിന്റെ പുത്രന്മാർ നഹത്ത് സേരഹ് ശമ്മാ മിസ്സാ,cleaned/malayalam/1CH_001_037.wav
30
- 7547,യഹോവയുടെ തേജസ്സ് ആലയത്തിൽ നിറഞ്ഞിരിക്കകൊണ്ട് പുരോഹിതന്മാർക്ക് ആലയത്തിൽ പ്രവേശിക്കുവാൻ കഴിഞ്ഞില്ല,cleaned/malayalam/2CH_007_002.wav
31
- 10448,അതിന്റെ പാത കഴുകൻ അറിയുന്നില്ല പരുന്തിന്റെ കണ്ണ് അതിനെ കണ്ടിട്ടില്ല,cleaned/malayalam/JOB_028_007.wav
32
- 690,സകലഭൂസീമാവാസികളുമായുള്ളവരേ എങ്കലേക്ക് തിരിഞ്ഞു രക്ഷപ്പെടുവിൻ ഞാനല്ലാതെ വേറൊരു ദൈവവും ഇല്ലല്ലോ,cleaned/malayalam/ISA_045_022.wav
33
- 8278,എന്റെ ദാസനായ ദാവീദ് അവർക്ക് രാജാവായിരിക്കും അവർക്കെല്ലാവർക്കും ഒരു ഇടയൻ ഉണ്ടാകും അവർ എന്റെ വിധികളിൽ നടന്ന് എന്റെ ചട്ടങ്ങളെ പ്രമാണിച്ച് അനുഷ്ഠിക്കും,cleaned/malayalam/EZK_037_024.wav
34
- 7905,നിങ്ങൾ വാളാൽ വീഴും യിസ്രായേലിന്റെ അതിർത്തിയിൽവച്ച് ഞാൻ നിങ്ങളെ ന്യായംവിധിക്കും ഞാൻ യഹോവ എന്ന് നിങ്ങൾ അറിയും,cleaned/malayalam/EZK_011_010.wav
35
- 8940,ആകയാൽ ദൈവം യോജിപ്പിച്ചതിനെ മനുഷ്യൻ വേർപിരിക്കരുത് എന്നു ഉത്തരം പറഞ്ഞു,cleaned/malayalam/MRK_010_009.wav
36
- 13154,കർത്താവ് നിന്റെ ദേശത്ത് സമാധാനം വരുത്തുന്നു വിശേഷമായ ഗോതമ്പുകൊണ്ട് നിനക്ക് തൃപ്തിവരുത്തുന്നു,cleaned/malayalam/PSA_147_014.wav
37
- 1524,ഇവിടെ ജ്ഞാനമുള്ള മനസ്സ് ആവശ്യം തല ഏഴും സ്ത്രീ ഇരിക്കുന്ന ഏഴ് മലകളാകുന്നു,cleaned/malayalam/REV_017_009.wav
38
- 16181,അങ്ങനെ അമാസാ യെഹൂദാപുരുഷന്മാരെ വിളിച്ചുകൂട്ടുവാൻ പോയി എന്നാൽ ദാവീദ് നിശ്ചയിച്ച അവധിയിലധികം അവൻ താമസിച്ചുപോയി,cleaned/malayalam/2SA_020_005.wav
39
- 7605,അവക്കു പകരം രെഹബെയാംരാജാവ് താമ്രംകൊണ്ട് പരിചകൾ ഉണ്ടാക്കി രാജധാനിയുടെ വാതിൽ കാവൽക്കാരായ അകമ്പടിനായകന്മാരുടെ കയ്യിൽ ഏല്പിച്ചു,cleaned/malayalam/2CH_012_010.wav
40
- 8936,യേശു അവരോട് നിങ്ങളുടെ ഹൃദയകാഠിന്യം നിമിത്തമത്രേ അവൻ നിങ്ങൾക്ക് ഈ കല്പന എഴുതിത്തന്നത്,cleaned/malayalam/MRK_010_005.wav
41
- 12472,യഹോവയെ സ്തുതിക്കുവിൻ യഹോവയ്ക്കു സ്തോത്രം ചെയ്യുവിൻ ദൈവം നല്ലവനല്ലയോ അവിടുത്തെ ദയ എന്നേക്കും ഉള്ളത്,cleaned/malayalam/PSA_106_001.wav
42
- 597,എന്റെ നിമിത്തവും എന്റെ ദാസനായ ദാവീദിന്റെ നിമിത്തവും ഞാൻ ഈ നഗരത്തെ പാലിച്ചു രക്ഷിക്കും എന്നു യഹോവയുടെ അരുളപ്പാട്,cleaned/malayalam/ISA_037_035.wav
43
- 4491,അവൻ ദമസ്കൊസിലുള്ള ശിഷ്യന്മാരോട് കൂടെ കുറേനാൾ പാർത്തു,cleaned/malayalam/ACT_009_019.wav
44
- 6840,നിന്റെ ദൈവമായ യഹോവ നിനക്ക് തരുന്ന ദേശത്ത് എത്തിയശേഷം അവിടുത്തെ ജനതകളുടെ മ്ലേച്ഛതകൾ നീ പഠിക്കരുത്,cleaned/malayalam/DEU_018_009.wav
45
- 13696,അനന്തരം യിസ്ഹാക്ക് യാക്കോബിനെ വിളിച്ച് അവനെ അനുഗ്രഹിച്ച് അവനോട് ആജ്ഞാപിച്ചു പറഞ്ഞത് നീ കനാന്യസ്ത്രീകളിൽനിന്നു ഭാര്യയെ എടുക്കരുത്,cleaned/malayalam/GEN_028_001.wav
46
- 1632,ലൂക്കോസ് മാത്രമേ എന്നോടുകൂടെ ഉള്ളൂ മർക്കൊസ് എനിക്ക് ശുശ്രൂഷയ്ക്കായി ഉപയോഗമുള്ളവൻ ആകയാൽ അവനെ കൂട്ടിക്കൊണ്ട് വരിക,cleaned/malayalam/2TI_004_011.wav
47
- 8835,നിങ്ങൾ ദൈവകല്പന വിട്ടുകളഞ്ഞ് മനുഷ്യരുടെ സമ്പ്രദായം മുറുകെപ്പിടിക്കുന്നു,cleaned/malayalam/MRK_007_008.wav
48
- 16759,മോവാബ്യപ്രഭുക്കന്മാർ പുറപ്പെട്ട് ബാലാക്കിന്റെ അടുക്കൽ ചെന്ന് ബിലെയാമിന് ഞങ്ങളോടുകൂടി വരുവാൻ മനസ്സില്ല എന്ന് പറഞ്ഞു,cleaned/malayalam/NUM_022_014.wav
49
- 11930,നിങ്ങളുടെ കൊമ്പ് മേലോട്ട് ഉയർത്തരുത് ശാഠ്യത്തോടെ സംസാരിക്കുകയുമരുത്,cleaned/malayalam/PSA_075_005.wav
50
- 6550,യഹോവയുടെ ന്യായപ്രമാണം പരിശോധിപ്പാനും അത് അനുസരിച്ച് നടപ്പാനും യിസ്രായേലിൽ അതിന്റെ ചട്ടങ്ങളും വിധികളും ഉപദേശിക്കുവാനും എസ്രാ മനസ്സുവെച്ചിരുന്നു,cleaned/malayalam/EZR_007_010.wav
51
- 5976,മുട്ട ചോദിച്ചാൽ തേളിനെ കൊടുക്കുമോ,cleaned/malayalam/LUK_011_012.wav
52
- 628,പ്രഭുക്കന്മാരെ ഇല്ലാതെയാക്കുകയും ഭൂമിയിലെ ന്യായാധിപന്മാരെ ശൂന്യമാക്കുകയും ചെയ്യുന്നു,cleaned/malayalam/ISA_040_023.wav
53
- 10407,അതിന് ഇയ്യോബ് ഉത്തരം പറഞ്ഞത്,cleaned/malayalam/JOB_026_001.wav
54
- 11066,എന്റെ ദൈവമായ യഹോവേ അങ്ങയെ ഞാൻ ശരണം പ്രാപിക്കുന്നു എന്നെ ഉപദ്രവിക്കുന്ന എല്ലാവരുടെയും കയ്യിൽനിന്ന് എന്ന��� രക്ഷിച്ചു വിടുവിക്കണമേ,cleaned/malayalam/PSA_007_001.wav
55
- 12563,ദൈവം തന്റെ വിശുദ്ധിയിൽ അരുളിച്ചെയ്തത് ഞാൻ ആനന്ദത്തോടെ ശെഖേമിനെ വിഭാഗിച്ച് സുക്കോത്ത് താഴ്വരയെ അളക്കും,cleaned/malayalam/PSA_108_007.wav
56
- 8082,അതുകൊണ്ട് ഒഹൊലീബയേ യഹോവയായ കർത്താവ് ഇപ്രകാരം അരുളിച്ചെയ്യുന്നു ബാബേല്‍ക്കാർ കല്ദയർ പെക്കോദ്യർ ശോവ്യർ,cleaned/malayalam/EZK_023_022.wav
57
- 1458,അവൻ നാലാം മുദ്ര പൊട്ടിച്ചപ്പോൾ വരിക എന്നു നാലാം ജീവി പറയുന്ന ശബ്ദം ഞാൻ കേട്ട്,cleaned/malayalam/REV_006_007.wav
58
- 17934,ഞാൻ ജ്ഞാനം അഭ്യസിച്ചിട്ടില്ല പരിശുദ്ധനായവന്റെ പരിജ്ഞാനം എനിക്കില്ല,cleaned/malayalam/PRO_030_003.wav
59
- 5304,ഏലി തൊണ്ണൂറ്റെട്ട് വയസ്സുള്ളവനും കാണുവാൻ കഴിയാതവണ്ണം കണ്ണ് മങ്ങിയവനും ആയിരുന്നു,cleaned/malayalam/1SA_004_015.wav
60
- 10035,ഞങ്ങളെ ഇരുവരെയും പറഞ്ഞു നിർത്തേണ്ടതിന് ഞങ്ങളുടെ നടുവിൽ ഒരു മദ്ധ്യസ്ഥനുമില്ല,cleaned/malayalam/JOB_009_033.wav
61
- 6698,ഇങ്ങനെ യോദ്ധാക്കൾ എല്ലാവരും ജനത്തിന്റെ ഇടയിൽനിന്ന് മരിച്ചുപോയി,cleaned/malayalam/DEU_002_016.wav
62
- 7771,മനശ്ശെ രാജാവായി വാഴ്ച തുടങ്ങിയപ്പോൾ അവന് പന്ത്രണ്ട് വയസ്സായിരുന്നു അവൻ അമ്പത്തഞ്ച് സംവത്സരം യെരൂശലേമിൽ വാണു,cleaned/malayalam/2CH_033_001.wav
63
- 4989,യഹോവ യോശുവയോട് സാക്ഷ്യപെട്ടകം ചുമക്കുന്ന പുരോഹിതന്മാരോട് യോർദ്ദാനിൽനിന്ന് കയറുവാൻ കല്പിക്ക എന്ന് അരുളിച്ചെയ്തു,cleaned/malayalam/JOS_004_016.wav
64
- 5673,നമ്മുടെ ദൈവത്തിന്റെ ആർദ്രകരുണയാൽ അവന്റെ ജനത്തിന് പാപമോചനം ലഭിക്കുമെന്ന് അറിയിക്കാനുമായി നീ അവന് മുമ്പായി നടക്കും,cleaned/malayalam/LUK_001_077.wav
65
- 10663,അതിന്റെ അളവ് നിയമിച്ചവൻ ആര് നീ അറിയുന്നുവോ അല്ല അതിന് അളവുനൂൽ പിടിച്ചവനാര്,cleaned/malayalam/JOB_038_005.wav
66
- 3720,അതുകൊണ്ടാണ് അവന്റെ മാതാപിതാക്കൾ അവന് പ്രായം ഉണ്ടല്ലോ അവനോട് ചോദിപ്പിൻ എന്നു പറഞ്ഞത്,cleaned/malayalam/JHN_009_023.wav
67
- 3101,ചുരുൾ ചുട്ടുകളയരുതേ എന്ന് എൽനാഥാനും ദെലായാവും ഗെമര്യാവും രാജാവിനോട് അപേക്ഷിച്ചു എങ്കിലും അവൻ അവരുടെ അപേക്ഷ കേട്ടില്ല,cleaned/malayalam/JER_036_025.wav
68
- 5399,പിന്നെ ശമൂവേൽ പോകുവാൻ തിരിഞ്ഞപ്പോൾ ശൌല്‍ അവന്റെ നിലയങ്കിയുടെ അറ്റം പിടിച്ച് വലിച്ചു അത് കീറിപ്പോയി,cleaned/malayalam/1SA_015_027.wav
69
- 13722,എന്നാൽ അടുത്ത് ഏഴു വർഷംകൂടി നീ എനിക്കുവേണ്ടി സേവനം ചെയ്യുമെങ്കിൽ ഞങ്ങൾ റാഹേലിനേയും നിനക്ക് തരും എന്നു പറഞ്ഞു,cleaned/malayalam/GEN_029_027.wav
70
- 6865,ന്യായധിപന്മാരും പുറത്ത് ചെന്ന് കൊല്ലപ്പെട്ടവന്റെ ചുറ്റുമുള്ള ഓരോ പട്ടണം വരെയുമുള്ള ദൂരം അളക്കണം,cleaned/malayalam/DEU_021_002.wav
71
- 3802,ചിലരോ കുരുടന്റെ കണ്ണ് തുറന്ന ഇവന് ഇവനെയും മരിക്കാതാക്കുവാൻ കഴിഞ്ഞില്ലയോ എന്നു പറഞ്ഞു,cleaned/malayalam/JHN_011_037.wav
72
- 889,യഹോവ പിന്നെയും മോശെയോട് അരുളിച്ചെയ്തത്,cleaned/malayalam/LEV_006_024.wav
73
- 7869,യഹോവയായ കർത്താവ് ഇപ്രകാരം അരുളിച്ചെയ്യുന്നു ഒരു അനർത്ഥം ഒരു അനർത്ഥം ഇതാ വരുന്നു,cleaned/malayalam/EZK_007_005.wav
74
- 14808,അവളെ അവന് കൊടുക്കുവാൻ അവളുടെ അപ്പന് അശേഷം മനസ്സില്ലെങ്കിൽ അവൻ കന്യകമാരുടെ സ്ത്രീധനത്തിന് ഒത്തവണ്ണം പണം കൊടുക്കണം,cleaned/malayalam/EXO_022_017.wav
75
- 7981,യഹോവയുടെ അരുളപ്പാട് എനിക്കുണ്ടായതെന്തെന്നാൽ,cleaned/malayalam/EZK_017_011.wav
76
- 15439,കെദേമോത്തും പുല്പുറങ്ങളും മേഫാത്തും പുല്പുറങ്ങളും,cleaned/malayalam/1CH_006_079.wav
77
- 12918,നമ്മളെ അവരുടെ പല്ലുകൾക്ക് ഇരയായി കൊടുക്കായ്കയാൽ യഹോവ വാഴ്ത്തപ്പെടുമാറാകട്ടെ,cleaned/malayalam/PSA_124_006.wav
78
- 16539,യഹോവ മോശെയോട് അരുളിച്ചെയ്തത്,cleaned/malayalam/NUM_008_001.wav
79
- 171,ഞാൻ അവരെ യഹോവയിൽ ബലപ്പെടുത്തും അവർ അവന്റെ നാമത്തിൽ സഞ്ചരിക്കും എന്നു യഹോവയുടെ അരുളപ്പാട്,cleaned/malayalam/ZEC_010_012.wav
80
- 7460,അപമാനത്തിൽ വിതയ്ക്കപ്പെടുന്നു തേജസ്സിൽ ഉയിർക്കുന്നു ബലഹീനതയിൽ വിതയ്ക്കപ്പെടുന്നു ശക്തിയിൽ ഉയിർക്കുന്നു,cleaned/malayalam/1CO_015_043.wav
81
- 12372,അവിടുന്ന് അനന്യനാകുന്നു അങ്ങയുടെ സംവത്സരങ്ങൾ അവസാനിക്കുകയുമില്ല,cleaned/malayalam/PSA_102_027.wav
82
- 13906,എന്നാൽ മിദ്യാന്യർ അവനെ ഈജിപ്റ്റിൽ ഫറവോന്റെ ഒരു ഉദ്യോഗസ്ഥനായി അംഗരക്ഷകരുടെ നായകനായ പോത്തീഫറിനു വിറ്റു,cleaned/malayalam/GEN_037_036.wav
83
- 12482,എങ്കിലും അവർ വേഗത്തിൽ കർത്താവിന്റെ പ്രവൃത്തികളെ മറന്നു ദൈവത്തിന്റെ ആലോചനയ്ക്കായി കാത്തിരുന്നതുമില്ല,cleaned/malayalam/PSA_106_013.wav
84
- 9155,ആഴ്ചവട്ടത്തിന്റെ ഒന്നാം നാൾ അതികാലത്ത് സൂര്യൻ ഉദിച്ചപ്പോൾ തന്നേ അവർ കല്ലറയ്ക്കൽ ചെന്ന്,cleaned/malayalam/MRK_016_002.wav
85
- 2752,നീ ഇന്നുമുതൽ എന്നോട് എന്റെ പിതാവേ നീ എന്റെ യൗവനത്തിലെ സഖി എന്ന് വിളിച്ചുപറയുകയില്ലയോ,cleaned/malayalam/JER_003_004.wav
86
- 5555,ദാവീദ് ഫെലിസ്ത്യദേശത്ത് ഒരു വർഷവും നാല് മാസവും താമസിച്ചു,cleaned/malayalam/1SA_027_007.wav
87
- 9618,അനന്തരം നൂനിന്റെ മകനും യഹോവയുടെ ദാസനുമായ യോശുവ നൂറ്റിപ്പത്താമത്തെ വയസ്സിൽ മരിച്ചു,cleaned/malayalam/JDG_002_008.wav
88
- 8232,യഹോവയുടെ അരുളപ്പാട് എനിക്കുണ്ടായതെന്തെന്നാൽ,cleaned/malayalam/EZK_035_001.wav
89
- 3718,കുരുടനായി ജനിച്ചു എന്നു നിങ്ങൾ പറയുന്ന നിങ്ങളുടെ മകൻ ഇവൻ തന്നെയോ എന്നാൽ അവന് ഇപ്പോൾ കണ്ണ് കാണുന്നത് എങ്ങനെ എന്നു അവർ അവരോട് ചോദിച്ചു,cleaned/malayalam/JHN_009_019.wav
90
- 7158,നിന്റെ ശരീരാകൃതി പനയോടും നിന്റെ സ്തനങ്ങൾ മുന്തിരിക്കുലയോടും സദൃശം,cleaned/malayalam/SNG_007_008.wav
91
- 12545,അവർ ജനത്തിന്റെ സഭയിൽ അവിടുത്തെ പുകഴ്ത്തുകയും മൂപ്പന്മാരുടെ സംഘത്തിൽ അവിടുത്തെ സ്തുതിക്കുകയും ചെയ്യട്ടെ,cleaned/malayalam/PSA_107_032.wav
92
- 6054,യേശു അവളെ കണ്ട് അടുക്കെ വിളിച്ചു സ്ത്രീയേ നിന്റെ രോഗത്തിൽ നിന്നും വിടുതൽ ലഭിച്ചിരിക്കുന്നു എന്നു പറഞ്ഞു അവളുടെമേൽ കൈവച്ചു,cleaned/malayalam/LUK_013_012.wav
93
- 17688,ഉല്ലാസപ്രിയൻ ദരിദ്രനായിത്തീരും വീഞ്ഞും തൈലവും പ്രിയപ്പെടുന്നവൻ ധനവാനാകുകയില്ല,cleaned/malayalam/PRO_021_017.wav
94
- 10673,ദുഷ്ടന്മാർക്ക് വെളിച്ചം മുടങ്ങിപ്പോകുന്നു ഓങ്ങിയ ഭുജവും ഒടിഞ്ഞുപോകുന്നു,cleaned/malayalam/JOB_038_015.wav
95
- 11158,മരണമാകുന്ന കയറ് എന്നെ ചുറ്റി അഗാധപ്രവാഹങ്ങൾ എന്നെ ഭ്രമിപ്പിച്ചു,cleaned/malayalam/PSA_018_004.wav
96
- 16802,ഇരുപത്തിനാലായിരംപേർ ബാധകൊണ്ട് മരിച്ചുപോയി,cleaned/malayalam/NUM_025_009.wav
97
- 4512,അവൻ വളരെ വിശന്നിട്ട് ഭക്ഷിക്കുവാൻ ആഗ്രഹിച്ചു അവർ ഭക്ഷണം ഒരുക്കുമ്പോഴേക്കും അവന് ഒരു വിവശത ഉണ്ടായി,cleaned/malayalam/ACT_010_010.wav
98
- 11548,സൈന്യങ്ങളുടെ യഹോവ നമ്മോടുകൂടെ ഉണ്ട് യാക്കോബിന്റെ ദൈവം നമ്മുടെ സങ്കേതം ആകുന്നു സേലാ,cleaned/malayalam/PSA_046_011.wav
99
- 11416,എന്റെ കുറ്റം തെളിയുകയും വെറുക്കപ്പെടുകയും ചെയ്യുകയില്ല എന്നിങ്ങനെ അവൻ തന്നോട് തന്നെ മധുരവാക്ക് പറയുന്നു,cleaned/malayalam/PSA_036_002.wav
100
- 16313,യഥാർത്ഥ വിധവമാരായിരിക്കുന്നവരെ മാനിയ്ക്കുക,cleaned/malayalam/1TI_005_003.wav
101
- 12029,ദൈവം യെഹൂദാഗോത്രത്തെയും താൻ പ്രിയപ്പെട്ട സീയോൻ പർവ്വതത്തെയും തിരഞ്ഞെടുത്തു,cleaned/malayalam/PSA_078_068.wav
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
data/experiments/train_500.csv ADDED
@@ -0,0 +1,6 @@
 
 
 
 
 
 
 
1
+ Unnamed: 0,sentence,path
2
+ 6628,और चौदहों भेड़ के बच्चों में से एकएक बच्चे के साथ एपा का दसवाँ अंश मैदा चढ़ाना,data/cleaned/hindi/NUM/NUM_029_015.wav
3
+ 11353,इस प्रकार राजा सुलैमान धन और बुद्धि में पृथ्वी के सब राजाओं से बढ़कर हो गया,data/cleaned/hindi/1KI/1KI_010_023.wav
4
+ 7704,क्योंकि मेरे शत्रु मेरे विषय बातें करते हैं और जो मेरे प्राण की ताक में हैं वे आपस में यह सम्मति करते हैं कि,data/cleaned/hindi/PSA/PSA_071_010.wav
5
+ 254,शेशान के तो बेटा न हुआ केवल बेटियाँ हुई शेशान के पास यर्हा नाम एक मिस्री दास था,data/cleaned/hindi/1CH/1CH_002_034.wav
6
+ 5011,उसकी हड्डियाँ मानो पीतल की नलियाँ हैं उसकी पसलियाँ मानो लोहे के बेंड़े हैं,data/cleaned/hindi/JOB/JOB_040_018.wav
sample.py CHANGED
@@ -1,73 +1,161 @@
1
- # Lint as: python3
2
- """CREMA-D dataset."""
 
 
 
 
 
 
 
 
 
 
 
 
 
3
 
4
  import os
5
- from typing import Union
6
-
7
  import datasets
8
  import pandas as pd
 
 
 
 
 
 
 
 
 
 
 
9
 
10
  _DESCRIPTION = """\
11
- CREMA-D is a data set of 7,442 original clips from 91 actors.
12
- These clips were from 48 male and 43 female actors between the ages of 20 and 74
13
- coming from a variety of races and ethnicities (African America, Asian,
14
- Caucasian, Hispanic, and Unspecified). Actors spoke from a selection of 12
15
- sentences. The sentences were presented using one of six different emotions
16
- (Anger, Disgust, Fear, Happy, Neutral, and Sad) and four different emotion
17
- levels (Low, Medium, High, and Unspecified).
18
  """
19
 
20
- _HOMEPAGE = "https://github.com/CheyneyComputerScience/CREMA-D"
 
 
21
 
22
- DATA_DIR = {"train": "AudioWAV"}
23
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
24
 
25
- class Sample(datasets.GeneratorBasedBuilder):
26
- """Crema-D dataset."""
27
 
28
- DEFAULT_WRITER_BATCH_SIZE = 256
29
- BUILDER_CONFIGS = [datasets.BuilderConfig(name="clean", description="Train Set.")]
 
 
 
 
 
 
 
 
30
 
31
  def _info(self):
 
 
 
 
 
 
 
 
32
  return datasets.DatasetInfo(
33
  description=_DESCRIPTION,
34
- features=datasets.Features(
35
- {"file": datasets.Value("string"), "label": datasets.Value("string")}
36
- ),
37
- supervised_keys=("file", "label"),
38
  homepage=_HOMEPAGE,
 
 
39
  )
40
 
41
- def _split_generators(
42
- self, dl_manager: datasets.utils.download_manager.DownloadManager
43
- ):
44
- data_dir = dl_manager.extract(self.config.data_dir)
45
- if self.config.name == "clean":
46
- train_splits = [
 
 
 
 
 
 
47
  datasets.SplitGenerator(
48
- name="train", gen_kwargs={"files": data_dir, "name": "train"}
49
- )
50
- ]
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
51
 
52
- return train_splits
 
 
 
 
 
 
 
 
 
 
 
53
 
54
- def _generate_examples(self, files: Union[str, os.PathLike], name: str):
55
- """Generate examples from a Crema unzipped directory."""
56
  key = 0
57
- examples = list()
58
-
59
- audio_dir = os.path.join(files, DATA_DIR[name])
60
-
61
- if not os.path.exists(audio_dir):
62
- raise FileNotFoundError
63
- else:
64
- for file in os.listdir(audio_dir):
65
- res = dict()
66
- res["file"] = "{}".format(os.path.join(audio_dir, file))
67
- res["label"] = file.split("_")[-2]
68
- examples.append(res)
69
-
70
- for example in examples:
71
- yield key, {**example}
72
- key += 1
73
- examples = []
 
1
+ # Copyright 2020 The HuggingFace Datasets Authors and the current dataset script contributor.
2
+ #
3
+ # Licensed under the Apache License, Version 2.0 (the "License");
4
+ # you may not use this file except in compliance with the License.
5
+ # You may obtain a copy of the License at
6
+ #
7
+ # http://www.apache.org/licenses/LICENSE-2.0
8
+ #
9
+ # Unless required by applicable law or agreed to in writing, software
10
+ # distributed under the License is distributed on an "AS IS" BASIS,
11
+ # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
12
+ # See the License for the specific language governing permissions and
13
+ # limitations under the License.
14
+ # TODO: Address all TODOs and remove all explanatory comments
15
+ """TODO: Add a description here."""
16
 
17
  import os
18
+ import csv
19
+ import json
20
  import datasets
21
  import pandas as pd
22
+ from scipy.io import wavfile
23
+
24
+
25
+ _CITATION = """\
26
+ @inproceedings{Raju2022SnowMD,
27
+ title={Snow Mountain: Dataset of Audio Recordings of The Bible in Low Resource Languages},
28
+ author={Kavitha Raju and V. Anjaly and R. Allen Lish and Joel Mathew},
29
+ year={2022}
30
+ }
31
+
32
+ """
33
 
34
  _DESCRIPTION = """\
35
+ The Snow Mountain dataset contains the audio recordings (in .mp3 format) and the corresponding text of The Bible
36
+ in 11 Indian languages. The recordings were done in a studio setting by native speakers. Each language has a single
37
+ speaker in the dataset. Most of these languages are geographically concentrated in the Northern part of India around
38
+ the state of Himachal Pradesh. Being related to Hindi they all use the Devanagari script for transcription.
 
 
 
39
  """
40
 
41
+ _HOMEPAGE = "https://gitlabdev.bridgeconn.com/software/research/datasets/snow-mountain"
42
+
43
+ _LICENSE = ""
44
 
45
+ _URL = "https://gitlabdev.bridgeconn.com/software/research/datasets/snow-mountain/"
46
 
47
+ _FILES = {
48
+ "hindi": {
49
+ "train_500": "data/experiments/hindi/train_500.csv",
50
+ # "val_500": "data/experiments/hindi/val_500.csv",
51
+ # "train_1000": "data/experiments/hindi/train_1000.csv",
52
+ # "val_1000": "data/experiments/hindi/val_1000.csv",
53
+ # "test_common": "data/experiments/hindi/test_common.csv",
54
+ },
55
+ # "haryanvi": {
56
+ # "train_500": "data/experiments/haryanvi/train_500.csv",
57
+ # "val_500": "data/experiments/haryanvi/val_500.csv",
58
+ # "train_1000": "data/experiments/haryanvi/train_1000.csv",
59
+ # "val_1000": "data/experiments/haryanvi/val_1000.csv",
60
+ # "test_common": "data/experiments/haryanvi/test_common.csv",
61
+ # }
62
+ }
63
 
 
 
64
 
65
+ class Test(datasets.GeneratorBasedBuilder):
66
+
67
+ VERSION = datasets.Version("1.0.0")
68
+
69
+ BUILDER_CONFIGS = [
70
+ datasets.BuilderConfig(name="hindi", version=VERSION, description="Hindi data"),
71
+ # datasets.BuilderConfig(name="haryanvi", version=VERSION, description="Haryanvi data"),
72
+ ]
73
+
74
+ DEFAULT_CONFIG_NAME = "hindi"
75
 
76
  def _info(self):
77
+ features = datasets.Features(
78
+ {
79
+ # "unnamed": datasets.Value("int64"),
80
+ "sentence": datasets.Value("string"),
81
+ "path": datasets.Value("string"),
82
+ "audio": datasets.Audio(sampling_rate=16_000),
83
+ }
84
+ )
85
  return datasets.DatasetInfo(
86
  description=_DESCRIPTION,
87
+ features=features,
88
+ supervised_keys=("sentence", "path"),
 
 
89
  homepage=_HOMEPAGE,
90
+ license=_LICENSE,
91
+ citation=_CITATION,
92
  )
93
 
94
+ def _split_generators(self, dl_manager):
95
+
96
+ # urls_to_download = {
97
+ # "train_500": os.path.join(_URL, _FILES[self.config.name]["train_500"]),
98
+ # "val_500": os.path.join(_URL, _FILES[self.config.name]["val_500"]),
99
+ # "train_1000": os.path.join(_URL, _FILES[self.config.name]["train_1000"]),
100
+ # "val_1000": os.path.join(_URL, _FILES[self.config.name]["val_1000"]),
101
+ # "test_common": os.path.join(_URL, _FILES[self.config.name]["test_common"]),
102
+ # }
103
+ downloaded_files = dl_manager.download(_FILES[self.config.name])
104
+
105
+ train_splits = [
106
  datasets.SplitGenerator(
107
+ name="train_500",
108
+ gen_kwargs={
109
+ "filepath": downloaded_files["train_500"],
110
+ },
111
+ ),
112
+ # datasets.SplitGenerator(
113
+ # name="train_1000",
114
+ # gen_kwargs={
115
+ # "filepath": downloaded_files["train_1000"],
116
+ # },
117
+ # ),
118
+ ]
119
+
120
+ # dev_splits = [
121
+ # datasets.SplitGenerator(
122
+ # name="val_500",
123
+ # gen_kwargs={
124
+ # "filepath": downloaded_files["val_500"],
125
+ # },
126
+ # ),
127
+ # datasets.SplitGenerator(
128
+ # name="val_1000",
129
+ # gen_kwargs={
130
+ # "filepath": downloaded_files["val_1000"],
131
+ # },
132
+ # ),
133
+ # ]
134
 
135
+ # test_splits = [
136
+ # datasets.SplitGenerator(
137
+ # name="test_common",
138
+ # gen_kwargs={
139
+ # "filepath": downloaded_files["test_common"],
140
+ # },
141
+ # ),
142
+ # ]
143
+ dev_splits = []
144
+ test_splits = []
145
+
146
+ return train_splits + dev_splits + test_splits
147
 
148
+
149
+ def _generate_examples(self, filepath):
150
  key = 0
151
+ with open(filepath) as f:
152
+ data_df = pd.read_csv(f,sep=',')
153
+ transcripts = []
154
+ for index,row in data_df.iterrows():
155
+ samplerate, audio_data = wavfile.read('data/'+row["path"])
156
+ yield key, {
157
+ "sentence": row["sentence"],
158
+ "path": row["path"],
159
+ "audio":{"path": 'data/'+row["path"], "bytes": audio_data}
160
+ }
161
+ key+=1