Quiz de fin de chapitre
Testons ce que vous avez appris dans ce chapitre !
1. Quand devez-vous entraîner un nouveau tokenizer ?
2. Quel est l’avantage d’utiliser un générateur de listes par rapport à une liste de listes lors de l’utilisation de train_new_from_iterator()
?
3. Quels sont les avantages d’utiliser un tokenizer « rapide » ?
4. Comment le pipeline token-classification
gère-t-il les entités qui s’étendent sur plusieurs tokens ?
5. Comment le pipeline question-answering
gère-t-il les contextes longs ?
6. Qu’est-ce que la normalisation ?
7. Qu’est-ce que la pré-tokénisation pour un tokenizer en sous-mots ?
8. Sélectionnez les phrases qui s’appliquent au tokenizer BPE.
9. Sélectionnez les phrases qui s’appliquent au tokenizer WordPiece.
10. Sélectionnez les phrases qui s’appliquent au tokenizer Unigram.