In diesem Kapitel hast du gelernt, wie du verschiedene CL-Aufgaben mit der High-Level-Funktion pipeline()
aus der đ€ Transformers-Bibliothek angehen kannst. Du hast auch erfahren, wie du im Hub nach Modellen suchen und sie nutzen kannst, und wie du die Inference API verwenden kannst, um die Modelle direkt in deinem Browser zu testen.
Wir haben besprochen, wie Transformer-Modelle im GroĂen und Ganzen funktionieren, und haben die Bedeutung von Tranfer Learning und Feintuning erlĂ€utert. Ein wichtiger Aspekt ist, dass du entweder die gesamte Architektur, nur den Encoder oder auch nur den Decoder verwenden kannst - je nachdem, welche Art von Aufgabe du lösen willst. Die nachfolgende Tabelle gibt noch einmal einen guten Ăberblick:
Modell | Beispiele | Aufgaben (Tasks) |
---|---|---|
Encoder | ALBERT, BERT, DistilBERT, ELECTRA, RoBERTa | Klassifizierung von SĂ€tzen, Eigennamenerkennung/NER, Extraktive Frage-Antwort-Systeme |
Decoder | CTRL, GPT, GPT-2, Transformer XL | Textgenerierung |
Encoder-Decoder | BART, T5, Marian, mBART | Automatische Textzusammenfassung, Maschinelle Ăbersetzung, Generative Frage-Antwort-Systeme |