flozi00/asr-german-mixed

Dataset Beschreibung

Allgemeine Informationen

Dieser Datensatz ist eine Kombination aus drei verschiedenen Quellen für die deutsche Sprache: Commonvoice 17.0 und Multilingual librispeech. Die Daten wurden gefiltert, normalisiert und grammatikalisch korrigiert. Die drei Datensätze wurden erneut transkribiert und mit den entsprechenden Audio-Daten abgeglichen, um genaue Transkriptionen zu erhalten. Anschließend wurde ein Abgleich mit den Originaltranskripten durchgeführt, um fehlerhafte Transkriptionen zu korrigieren oder zu entfernen, sofern dies möglich war. Für diese Aufgabe wurde das primeline whisper large v3 Modell genutzt.

Commonvoice 19.0

Common Voice ist ein öffentlich verfügbarer Sprachdatensatz, der durch Stimmen freiwilliger Mitwirkender auf der ganzen Welt erstellt wird. Der Datensatz enthält Aufnahmen von Sätzen in verschiedenen Sprachen, einschließlich Deutsch.

Multilingual librispeech

Der Multilingual LibriSpeech (MLS) Datensatz ist ein umfangreicher mehrsprachiger Korpus, der sich für die Sprachforschung eignet. Der Datensatz basiert auf vorgelesenen Hörbüchern von LibriVox und enthält auch deutschsprachige Aufnahmen.

Datenverarbeitungsschritte

Um einen qualitativ hochwertigen deutschen Sprachdatensatz zu erstellen, wurden folgende Schritte durchgeführt:

1. Filterung: Es wurden nur die deutschen Sätze aus den jeweiligen Quelldatensätzen extrahiert.
2. Normalisierung: Die Texte wurden auf eine einheitliche Form gebracht, um Inkonsistenzen zu beseitigen.
3. Grammatikkorrektur: Fehlerhafte Grammatik wurde korrigiert, um die Qualität der Sätze zu verbessern.

Verwendungszweck

Dieser kombinierte deutsche Sprachdatensatz kann für verschiedene Zwecke verwendet werden:

• ASR (Automatic Speech Recognition) Modelltraining
• NLP (Natural Language Processing) Forschung
• Text-to-Speech Anwendungen

Bitte beachten Sie jedoch bei der Verwendung dieses Datensatzes die Lizenzbedingungen der einzelnen Quellen sowie etwaige Einschränkungen oder Richtlinien bezüglich des Datenschutzes oder Urheberrechts.

Evaluation results:

Modell	Word error rate
openai/whisper-large-v3-turbo	14.14%
openai/whisper-large-v3	13.79%
primeline/whisper-large-v3-german	10.54%
nyrahealth/CrisperWhisper	8.519036731165182
primeline/whisper-large-v3-turbo-german	4.77%

openai/whisper-large-v3-turbo

Evaluation script

import datasets
from transformers import (
    AutoConfig,
    AutoModelForSpeechSeq2Seq,
    AutoProcessor,
)
from jiwer import wer, cer, wer_standardize_contiguous
from tqdm.auto import tqdm
import torch

BASE_MODEL = "Model Path"
DATASET_NAME = "asr-german-mixed"
batch_size=4

cv_data = (
    datasets.load_from_disk(DATASET_NAME)
    .cast_column(
        "audio",
        datasets.Audio(sampling_rate=16000, decode=True),
    )
    .with_format("torch")
)


def get_model(model_name: str):
    kwargs = {}
    processor = AutoProcessor.from_pretrained(
        model_name,
        legacy=False,
        trust_remote_code=True,
    )

    kwargs["attn_implementation"] = "sdpa"

    model = AutoModelForSpeechSeq2Seq.from_pretrained(
        model_name,
        **kwargs,
    )

    model = model.to(torch.bfloat16).cuda()
    
    return model, processor


model, processor = get_model(model_name=BASE_MODEL)
model.generation_config.do_sample=False
model.generation_config.num_beams=1

references = []
predictions = []
test_data = cv_data["test"]

for i in tqdm(range(0, len(test_data), batch_size)):
    batch = test_data[i:i + batch_size]

    audios = []
    input_features = []
    for x in batch["audio"]:
        # Extract the audio features from the audio
        extracted = processor(
            audio=x["array"],
            sampling_rate=16000,
            return_tensors="pt",
            return_attention_mask = True,
        )

        # check if feature extractor return input_features or input_values
        ft = (
            "input_values"
            if hasattr(extracted, "input_values")
            else "input_features"
        )

        # append to input_features
        input_features.append(
            {
                ft: getattr(
                    extracted,
                    ft,
                )[0],
                "attention_mask": extracted.attention_mask
            }
        )
        
        
    batch_pad = processor.feature_extractor.pad(
        input_features,
        padding="longest",
        return_tensors="pt",
    )
    
    with torch.no_grad():
        generated_ids = model.generate(input_features=batch_pad.input_features.to(torch.bfloat16).cuda(), attention_mask = batch_pad.attention_mask.to(torch.bfloat16).cuda(), max_new_tokens=384, language='de')
    
    transcriptions = processor.batch_decode(generated_ids, skip_special_tokens=True)
    references.extend(batch["transkription"])
    predictions.extend(transcriptions)

print("*"*20)
print("WER: ", wer(references, predictions, reference_transform=wer_standardize_contiguous, hypothesis_transform=wer_standardize_contiguous)*100)
print("*"*20)