Datasets:
Update README.md
Browse files
README.md
CHANGED
@@ -20,4 +20,38 @@ configs:
|
|
20 |
data_files:
|
21 |
- split: train
|
22 |
path: data/train-*
|
|
|
|
|
|
|
|
|
|
|
23 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
20 |
data_files:
|
21 |
- split: train
|
22 |
path: data/train-*
|
23 |
+
task_categories:
|
24 |
+
- automatic-speech-recognition
|
25 |
+
language:
|
26 |
+
- de
|
27 |
+
pretty_name: ASR-German-Mixed
|
28 |
---
|
29 |
+
|
30 |
+
# Dataset Beschreibung
|
31 |
+
|
32 |
+
## Allgemeine Informationen
|
33 |
+
Dieser Datensatz ist eine Kombination aus drei verschiedenen Quellen für die deutsche Sprache: Commonvoice 17.0 und Multilingual librispeech. Die Daten wurden gefiltert, normalisiert und grammatikalisch korrigiert.
|
34 |
+
Die drei Datensätze wurden erneut transkribiert und mit den entsprechenden Audio-Daten abgeglichen, um genaue Transkriptionen zu erhalten. Anschließend wurde ein Abgleich mit den Originaltranskripten durchgeführt, um fehlerhafte Transkriptionen zu korrigieren oder zu entfernen, sofern dies möglich war.
|
35 |
+
Für diese Aufgabe wurde das primeline whisper large v3 Modell genutzt.
|
36 |
+
|
37 |
+
### Commonvoice 16.1
|
38 |
+
Common Voice ist ein öffentlich verfügbarer Sprachdatensatz, der durch Stimmen freiwilliger Mitwirkender auf der ganzen Welt erstellt wird. Der Datensatz enthält Aufnahmen von Sätzen in verschiedenen Sprachen, einschließlich Deutsch.
|
39 |
+
|
40 |
+
### Multilingual librispeech
|
41 |
+
Der Multilingual LibriSpeech (MLS) Datensatz ist ein umfangreicher mehrsprachiger Korpus, der sich für die Sprachforschung eignet. Der Datensatz basiert auf vorgelesenen Hörbüchern von LibriVox und enthält auch deutschsprachige Aufnahmen.
|
42 |
+
|
43 |
+
## Datenverarbeitungsschritte
|
44 |
+
Um einen qualitativ hochwertigen deutschen Sprachdatensatz zu erstellen, wurden folgende Schritte durchgeführt:
|
45 |
+
|
46 |
+
1. Filterung: Es wurden nur die deutschen Sätze aus den jeweiligen Quelldatensätzen extrahiert.
|
47 |
+
2. Normalisierung: Die Texte wurden auf eine einheitliche Form gebracht, um Inkonsistenzen zu beseitigen.
|
48 |
+
3. Grammatikkorrektur: Fehlerhafte Grammatik wurde korrigiert, um die Qualität der Sätze zu verbessern.
|
49 |
+
|
50 |
+
## Verwendungszweck
|
51 |
+
Dieser kombinierte deutsche Sprachdatensatz kann für verschiedene Zwecke verwendet werden:
|
52 |
+
|
53 |
+
- ASR (Automatic Speech Recognition) Modelltraining
|
54 |
+
- NLP (Natural Language Processing) Forschung
|
55 |
+
- Text-to-Speech Anwendungen
|
56 |
+
|
57 |
+
Bitte beachten Sie jedoch bei der Verwendung dieses Datensatzes die Lizenzbedingungen der einzelnen Quellen sowie etwaige Einschränkungen oder Richtlinien bezüglich des Datenschutzes oder Urheberrechts.
|