---
dataset_info:
  features:
  - name: audio
    dtype:
      audio:
        sampling_rate: 16000
  - name: transkription
    dtype: string
  - name: source
    dtype: string
  splits:
  - name: train
    num_bytes: 41615466145.16
    num_examples: 930960
  download_size: 121819232271
  dataset_size: 41615466145.16
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
task_categories:
- automatic-speech-recognition
language:
- de
pretty_name: ASR-German-Mixed
---

# Dataset Beschreibung

## Allgemeine Informationen
Dieser Datensatz ist eine Kombination aus drei verschiedenen Quellen für die deutsche Sprache: Commonvoice 17.0 und Multilingual librispeech. Die Daten wurden gefiltert, normalisiert und grammatikalisch korrigiert.
Die drei Datensätze wurden erneut transkribiert und mit den entsprechenden Audio-Daten abgeglichen, um genaue Transkriptionen zu erhalten. Anschließend wurde ein Abgleich mit den Originaltranskripten durchgeführt, um fehlerhafte Transkriptionen zu korrigieren oder zu entfernen, sofern dies möglich war.
Für diese Aufgabe wurde das primeline whisper large v3 Modell genutzt.

### Commonvoice 17.0
Common Voice ist ein öffentlich verfügbarer Sprachdatensatz, der durch Stimmen freiwilliger Mitwirkender auf der ganzen Welt erstellt wird. Der Datensatz enthält Aufnahmen von Sätzen in verschiedenen Sprachen, einschließlich Deutsch.

### Multilingual librispeech
Der Multilingual LibriSpeech (MLS) Datensatz ist ein umfangreicher mehrsprachiger Korpus, der sich für die Sprachforschung eignet. Der Datensatz basiert auf vorgelesenen Hörbüchern von LibriVox und enthält auch deutschsprachige Aufnahmen.

## Datenverarbeitungsschritte
Um einen qualitativ hochwertigen deutschen Sprachdatensatz zu erstellen, wurden folgende Schritte durchgeführt:

1. Filterung: Es wurden nur die deutschen Sätze aus den jeweiligen Quelldatensätzen extrahiert.
2. Normalisierung: Die Texte wurden auf eine einheitliche Form gebracht, um Inkonsistenzen zu beseitigen.
3. Grammatikkorrektur: Fehlerhafte Grammatik wurde korrigiert, um die Qualität der Sätze zu verbessern.

## Verwendungszweck
Dieser kombinierte deutsche Sprachdatensatz kann für verschiedene Zwecke verwendet werden:

- ASR (Automatic Speech Recognition) Modelltraining 
- NLP (Natural Language Processing) Forschung 
- Text-to-Speech Anwendungen 

Bitte beachten Sie jedoch bei der Verwendung dieses Datensatzes die Lizenzbedingungen der einzelnen Quellen sowie etwaige Einschränkungen oder Richtlinien bezüglich des Datenschutzes oder Urheberrechts.