flozi00 commited on
Commit
5111eeb
1 Parent(s): 1691b01

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +34 -0
README.md CHANGED
@@ -20,4 +20,38 @@ configs:
20
  data_files:
21
  - split: train
22
  path: data/train-*
 
 
 
 
 
23
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
20
  data_files:
21
  - split: train
22
  path: data/train-*
23
+ task_categories:
24
+ - automatic-speech-recognition
25
+ language:
26
+ - de
27
+ pretty_name: ASR-German-Mixed
28
  ---
29
+
30
+ # Dataset Beschreibung
31
+
32
+ ## Allgemeine Informationen
33
+ Dieser Datensatz ist eine Kombination aus drei verschiedenen Quellen für die deutsche Sprache: Commonvoice 17.0 und Multilingual librispeech. Die Daten wurden gefiltert, normalisiert und grammatikalisch korrigiert.
34
+ Die drei Datensätze wurden erneut transkribiert und mit den entsprechenden Audio-Daten abgeglichen, um genaue Transkriptionen zu erhalten. Anschließend wurde ein Abgleich mit den Originaltranskripten durchgeführt, um fehlerhafte Transkriptionen zu korrigieren oder zu entfernen, sofern dies möglich war.
35
+ Für diese Aufgabe wurde das primeline whisper large v3 Modell genutzt.
36
+
37
+ ### Commonvoice 16.1
38
+ Common Voice ist ein öffentlich verfügbarer Sprachdatensatz, der durch Stimmen freiwilliger Mitwirkender auf der ganzen Welt erstellt wird. Der Datensatz enthält Aufnahmen von Sätzen in verschiedenen Sprachen, einschließlich Deutsch.
39
+
40
+ ### Multilingual librispeech
41
+ Der Multilingual LibriSpeech (MLS) Datensatz ist ein umfangreicher mehrsprachiger Korpus, der sich für die Sprachforschung eignet. Der Datensatz basiert auf vorgelesenen Hörbüchern von LibriVox und enthält auch deutschsprachige Aufnahmen.
42
+
43
+ ## Datenverarbeitungsschritte
44
+ Um einen qualitativ hochwertigen deutschen Sprachdatensatz zu erstellen, wurden folgende Schritte durchgeführt:
45
+
46
+ 1. Filterung: Es wurden nur die deutschen Sätze aus den jeweiligen Quelldatensätzen extrahiert.
47
+ 2. Normalisierung: Die Texte wurden auf eine einheitliche Form gebracht, um Inkonsistenzen zu beseitigen.
48
+ 3. Grammatikkorrektur: Fehlerhafte Grammatik wurde korrigiert, um die Qualität der Sätze zu verbessern.
49
+
50
+ ## Verwendungszweck
51
+ Dieser kombinierte deutsche Sprachdatensatz kann für verschiedene Zwecke verwendet werden:
52
+
53
+ - ASR (Automatic Speech Recognition) Modelltraining
54
+ - NLP (Natural Language Processing) Forschung
55
+ - Text-to-Speech Anwendungen
56
+
57
+ Bitte beachten Sie jedoch bei der Verwendung dieses Datensatzes die Lizenzbedingungen der einzelnen Quellen sowie etwaige Einschränkungen oder Richtlinien bezüglich des Datenschutzes oder Urheberrechts.