group_id stringlengths 9 21 | category stringclasses 7
values | instruction stringlengths 38 114 | input stringclasses 1
value | output stringlengths 590 809 | variant stringclasses 2
values |
|---|---|---|---|---|---|
evaluation-008 | evaluation | En quelques phrases, comment construire un jeu de test de qualite pour un LLM specialise ? | Quelques principes. Il doit etre representatif de l'usage reel, pas seulement des cas faciles, et couvrir explicitement les cas limites et les questions hors domaine sur lesquelles on attend un refus ou une prudence. Il doit etre suffisamment grand pour que les differences observees depassent le bruit, ce qui suppose e... | paraphrase | |
python-core-000 | python-core | Qu'est-ce que la vectorisation en Python et pourquoi est-elle plus rapide que les boucles ? | La vectorisation consiste a remplacer des boucles Python explicites par des operations sur des tableaux entiers, deleguees a du code compile (C/Fortran) via NumPy ou Pandas. Elle est plus rapide pour deux raisons : (1) la boucle s'execute en code natif, sans l'overhead de l'interpreteur CPython a chaque iteration ; (2)... | original | |
numpy-pandas-008 | numpy-pandas | Explique simplement : Quelle est la difference entre une vue et une copie en NumPy ? | Une vue partage la memoire du tableau d'origine : modifier la vue modifie l'original. Une copie possede sa propre memoire et est independante. Le slicing de base produit une VUE (`b = a[2:5]`), ce qui est tres economique mais surprenant si l'on ne s'y attend pas. En revanche, l'indexation dite avancee (par liste d'indi... | paraphrase | |
ml-fundamentals-012 | ml-fundamentals | Qu'est-ce que l'AUC-ROC et comment l'interpreter ? | La courbe ROC trace le taux de vrais positifs contre le taux de faux positifs pour tous les seuils de decision possibles. L'AUC est l'aire sous cette courbe : elle vaut 0,5 pour un classifieur aleatoire et 1,0 pour un classifieur parfait. Son interpretation probabiliste est elegante : l'AUC est la probabilite qu'un exe... | original | |
ml-fundamentals-005 | ml-fundamentals | J'aimerais comprendre. Qu'est-ce que la regularisation L1 et L2, et quand utiliser chacune ? | Les deux ajoutent une penalite sur la taille des poids a la fonction de cout pour limiter le sur-apprentissage. La L2 (Ridge) penalise la somme des carres des poids : elle les reduit de facon lisse vers zero sans les annuler, et gere bien les variables correlees. La L1 (Lasso) penalise la somme des valeurs absolues : e... | paraphrase | |
evaluation-008 | evaluation | Comment construire un jeu de test de qualite pour un LLM specialise ? | Quelques principes. Il doit etre representatif de l'usage reel, pas seulement des cas faciles, et couvrir explicitement les cas limites et les questions hors domaine sur lesquelles on attend un refus ou une prudence. Il doit etre suffisamment grand pour que les differences observees depassent le bruit, ce qui suppose e... | original | |
numpy-pandas-017 | numpy-pandas | Peux-tu m'expliquer : Comment normaliser ou standardiser des donnees numeriques ? | La standardisation (z-score) centre et reduit : on soustrait la moyenne et on divise par l'ecart-type, ce qui donne une distribution de moyenne 0 et d'ecart-type 1. La normalisation min-max ramene lineairement les valeurs dans un intervalle, typiquement [0,1]. On standardise par defaut pour les modeles sensibles a l'ec... | paraphrase | |
deep-learning-llm-004 | deep-learning-llm | Peux-tu m'expliquer : Qu'est-ce qu'un embedding et a quoi ca sert ? | Un embedding est une representation vectorielle dense d'un objet (mot, phrase, image, utilisateur) dans un espace continu ou la proximite geometrique reflete une similarite semantique. Au lieu de traiter les mots comme des symboles isoles, on les place dans un espace ou des concepts proches sont voisins. Utilite : rech... | paraphrase | |
evaluation-004 | evaluation | J'aimerais comprendre. Qu'est-ce que le LLM-as-a-judge et quels sont ses biais ? | Le LLM-as-a-judge consiste a faire noter les reponses d'un modele par un autre modele, plus puissant, guide par une grille de criteres. C'est bien plus rapide et economique qu'une evaluation humaine, et la correlation avec le jugement humain est generalement bonne. Mais il souffre de biais documentes : preference pour ... | paraphrase | |
deep-learning-llm-015 | deep-learning-llm | Explique simplement : Qu'est-ce que le KV cache et pourquoi accelere-t-il la generation ? | Lors de la generation autoregressive, le modele produit un token a la fois, et chaque nouveau token doit attendre au contexte precedent. Sans optimisation, il faudrait recalculer les Keys et Values de tous les tokens anterieurs a chaque pas, ce qui serait quadratique. Le KV cache memorise ces Keys et Values deja calcul... | paraphrase | |
numpy-pandas-006 | numpy-pandas | Explique simplement : Comment fonctionne `groupby` dans Pandas ? | `groupby` applique le schema split-apply-combine : on decoupe le DataFrame selon les valeurs d'une ou plusieurs colonnes, on applique une fonction a chaque groupe, puis on recombine les resultats. Exemple : `df.groupby('ville')['prix'].mean()`. On peut agreger plusieurs colonnes et plusieurs fonctions d'un coup avec `.... | paraphrase | |
mlops-013 | mlops | Pour un entretien technique : Que faut-il journaliser dans un service de LLM en production ? | Sur le plan technique : identifiant de requete, horodatage, version du modele et du prompt systeme, nombre de tokens en entree et en sortie, latence decomposee, code de statut et erreurs. Sur le plan produit : les signaux de qualite disponibles, comme un pouce leve ou baisse, une reformulation immediate, un abandon, ou... | paraphrase | |
mlops-007 | mlops | Peux-tu m'expliquer : Comment reduire la latence d'inference d'un LLM ? | Plusieurs leviers, du plus rentable au plus specifique. Utiliser un moteur d'inference optimise comme vLLM ou TGI, qui apportent le batching continu et une gestion efficace du cache KV, transforme generalement le debit. Quantizer le modele en 8 ou 4 bits reduit la memoire et accelere le transfert. Reduire le nombre de ... | paraphrase | |
python-core-010 | python-core | Qu'est-ce qu'un context manager et le mot-cle `with` ? | Un context manager garantit qu'une ressource est correctement liberee, meme en cas d'exception. Le bloc `with` appelle `__enter__` a l'entree et `__exit__` a la sortie, quoi qu'il arrive. Exemple classique : `with open('f.txt') as f:` ferme le fichier automatiquement. On l'utilise aussi pour les connexions de base de d... | original | |
python-core-001 | python-core | Pour un entretien technique : Explique la difference entre `is` et `==` en Python. | `==` compare les valeurs (egalite logique, via la methode `__eq__`), tandis que `is` compare les identites : est-ce le meme objet en memoire, meme `id()`. Exemple : `[1,2] == [1,2]` vaut True (memes valeurs) mais `[1,2] is [1,2]` vaut False (deux objets distincts). On utilise `is` uniquement pour comparer a des singlet... | paraphrase | |
data-engineering-002 | data-engineering | J'aimerais comprendre. Pourquoi preferer le format Parquet au CSV pour de gros volumes ? | Parquet est un format colonnaire binaire, la ou le CSV est un format texte ligne par ligne. Avantages de Parquet : le stockage colonnaire permet de ne lire que les colonnes necessaires, donc moins d'entrees-sorties ; la compression est bien plus efficace car les donnees d'une meme colonne sont homogenes ; les types son... | paraphrase | |
mlops-008 | mlops | Quelle est la difference entre latence et debit dans un service d'inference ? | La latence est le temps de reponse d'une requete individuelle, du point de vue de l'utilisateur. Le debit est le nombre de requetes ou de tokens traites par unite de temps, du point de vue du systeme. Les deux s'opposent partiellement : regrouper les requetes en lots augmente fortement le debit, car le GPU travaille su... | original | |
mlops-008 | mlops | Explique simplement : Quelle est la difference entre latence et debit dans un service d'inference ? | La latence est le temps de reponse d'une requete individuelle, du point de vue de l'utilisateur. Le debit est le nombre de requetes ou de tokens traites par unite de temps, du point de vue du systeme. Les deux s'opposent partiellement : regrouper les requetes en lots augmente fortement le debit, car le GPU travaille su... | paraphrase | |
python-core-011 | python-core | Explique simplement : Quelle est la difference entre copie superficielle et copie profonde ? | Une copie superficielle (`copy.copy`, `list(x)`, `x[:]`) cree un nouvel objet mais reutilise les references vers les objets internes. Une copie profonde (`copy.deepcopy`) duplique recursivement tout l'arbre d'objets. La difference apparait avec des structures imbriquees :
```python
a = [[1, 2], [3]]
b = list(a) ... | paraphrase | |
mlops-008 | mlops | J'aimerais comprendre. Quelle est la difference entre latence et debit dans un service d'inference ? | La latence est le temps de reponse d'une requete individuelle, du point de vue de l'utilisateur. Le debit est le nombre de requetes ou de tokens traites par unite de temps, du point de vue du systeme. Les deux s'opposent partiellement : regrouper les requetes en lots augmente fortement le debit, car le GPU travaille su... | paraphrase | |
deep-learning-llm-017 | deep-learning-llm | Explique simplement : Comment choisir le rang r et le parametre alpha dans LoRA ? | Le rang r fixe la capacite de l'adaptateur : plus il est grand, plus la correction apprise peut etre expressive, mais plus le risque de sur-apprentissage et le cout memoire augmentent. Les valeurs usuelles vont de 8 a 64 ; on commence souvent a 16. Alpha est un facteur d'echelle : la contribution effective de l'adaptat... | paraphrase | |
mlops-009 | mlops | Peux-tu m'expliquer : Comment securiser une API exposant un LLM ? | Plusieurs couches sont necessaires. Sur l'acces : authentification par cle ou jeton, limitation de debit par client et quotas, pour eviter l'abus et maitriser le cout. Sur les entrees : bornes strictes sur la taille du prompt et le nombre de tokens generes, delais d'expiration, validation stricte du schema. Sur le cont... | paraphrase | |
mlops-013 | mlops | En quelques phrases, que faut-il journaliser dans un service de LLM en production ? | Sur le plan technique : identifiant de requete, horodatage, version du modele et du prompt systeme, nombre de tokens en entree et en sortie, latence decomposee, code de statut et erreurs. Sur le plan produit : les signaux de qualite disponibles, comme un pouce leve ou baisse, une reformulation immediate, un abandon, ou... | paraphrase | |
deep-learning-llm-018 | deep-learning-llm | Qu'est-ce que la distillation de modeles ? | La distillation transfere le savoir-faire d'un grand modele, dit enseignant, vers un modele plus petit, dit eleve. Plutot que d'entrainer l'eleve uniquement sur les etiquettes dures du jeu de donnees, on l'entraine a reproduire les sorties de l'enseignant. Les distributions de probabilite completes de l'enseignant, app... | original | |
data-engineering-007 | data-engineering | Comment traiter les valeurs aberrantes (outliers) dans un jeu de donnees ? | La premiere question n'est pas comment les supprimer mais d'ou elles viennent. Une valeur aberrante peut etre une erreur de saisie ou de capteur, auquel cas la corriger ou l'ecarter est legitime ; elle peut aussi etre un evenement rare mais reel, et c'est parfois precisement ce que l'on cherche a detecter, comme une fr... | original | |
deep-learning-llm-011 | deep-learning-llm | En quelques phrases, qu'est-ce que le catastrophic forgetting lors d'un fine-tuning ? | L'oubli catastrophique designe la perte de capacites generales d'un modele quand on le specialise trop agressivement sur un domaine etroit : il devient bon sur la nouvelle tache mais regresse sur ce qu'il savait faire auparavant. Les causes typiques sont un learning rate eleve, un trop grand nombre d'epochs, un jeu de ... | paraphrase | |
evaluation-012 | evaluation | Qu'est-ce qu'un test de regression pour un modele de langage ? | C'est un ensemble de cas figes, avec leurs sorties attendues ou des proprietes verifiables, que l'on rejoue systematiquement a chaque nouvelle version du modele ou du prompt. Le but n'est pas de mesurer une performance globale mais de detecter les regressions : un comportement qui fonctionnait et qui casse. On y met le... | original | |
numpy-pandas-014 | numpy-pandas | Quelle est la difference entre `np.array` et une liste Python ? | Un tableau NumPy est homogene (un seul dtype), de taille fixe et stocke de facon contigue en memoire ; une liste Python est heterogene, redimensionnable, et stocke des pointeurs vers des objets disperses. Consequences : le tableau consomme bien moins de memoire (pas d'objet Python par element), autorise les operations ... | original | |
deep-learning-llm-012 | deep-learning-llm | Quelle est la difference entre pre-entrainement, fine-tuning supervise et RLHF ? | Ce sont les trois etapes classiques de fabrication d'un assistant. Le pre-entrainement est auto-supervise sur d'enormes corpus de texte, avec pour seul objectif de predire le token suivant : le modele acquiert la langue et des connaissances generales, mais ne sait pas suivre des instructions. Le fine-tuning supervise, ... | original | |
data-engineering-006 | data-engineering | Pour un entretien technique : Comment detecter des quasi-doublons dans un corpus textuel ? | L'egalite stricte ne suffit pas, car une simple difference de ponctuation ou de casse la met en echec. On procede par etapes croissantes en cout. D'abord une normalisation, avec mise en minuscules, suppression des espaces multiples et de la ponctuation, puis comparaison d'empreintes : cela elimine les doublons triviaux... | paraphrase | |
deep-learning-llm-008 | deep-learning-llm | Peux-tu m'expliquer : Qu'est-ce que le gradient checkpointing et quel est son compromis ? | Le gradient checkpointing est une technique d'economie de memoire pendant l'entrainement. Normalement, on stocke toutes les activations de la passe avant pour calculer les gradients a la passe arriere. Avec le checkpointing, on n'en conserve que quelques-unes, les points de controle, et on RECALCULE les autres a la vol... | paraphrase | |
mlops-005 | mlops | J'aimerais comprendre. Pourquoi conteneuriser une application de machine learning avec Docker ? | Parce que le principal probleme de mise en production d'un modele est la dependance a l'environnement : versions de bibliotheques, pilotes CUDA, systeme d'exploitation. Docker fige tout cela dans une image reproductible qui s'execute a l'identique en local, en CI et en production. Pour le ML, quelques specificites comp... | paraphrase | |
ml-fundamentals-008 | ml-fundamentals | En quelques phrases, qu'est-ce que la descente de gradient ? | C'est l'algorithme d'optimisation qui ajuste les parametres d'un modele pour minimiser une fonction de cout. On calcule le gradient de la loss par rapport aux parametres, c'est-a-dire la direction de plus forte augmentation, puis on se deplace dans la direction opposee d'un pas proportionnel au learning rate. Trois var... | paraphrase | |
mlops-009 | mlops | Comment securiser une API exposant un LLM ? | Plusieurs couches sont necessaires. Sur l'acces : authentification par cle ou jeton, limitation de debit par client et quotas, pour eviter l'abus et maitriser le cout. Sur les entrees : bornes strictes sur la taille du prompt et le nombre de tokens generes, delais d'expiration, validation stricte du schema. Sur le cont... | original | |
evaluation-004 | evaluation | Explique simplement : Qu'est-ce que le LLM-as-a-judge et quels sont ses biais ? | Le LLM-as-a-judge consiste a faire noter les reponses d'un modele par un autre modele, plus puissant, guide par une grille de criteres. C'est bien plus rapide et economique qu'une evaluation humaine, et la correlation avec le jugement humain est generalement bonne. Mais il souffre de biais documentes : preference pour ... | paraphrase | |
python-core-010 | python-core | Explique simplement : Qu'est-ce qu'un context manager et le mot-cle `with` ? | Un context manager garantit qu'une ressource est correctement liberee, meme en cas d'exception. Le bloc `with` appelle `__enter__` a l'entree et `__exit__` a la sortie, quoi qu'il arrive. Exemple classique : `with open('f.txt') as f:` ferme le fichier automatiquement. On l'utilise aussi pour les connexions de base de d... | paraphrase | |
python-core-009 | python-core | J'aimerais comprendre. Que signifient `*args` et `**kwargs` ? | `*args` collecte les arguments positionnels supplementaires dans un tuple, `**kwargs` collecte les arguments nommes supplementaires dans un dictionnaire. Ils permettent d'ecrire des fonctions a signature variable ou de faire suivre des arguments a une autre fonction :
```python
def log_appel(fn, *args, **kwargs):
p... | paraphrase | |
numpy-pandas-017 | numpy-pandas | Comment normaliser ou standardiser des donnees numeriques ? | La standardisation (z-score) centre et reduit : on soustrait la moyenne et on divise par l'ecart-type, ce qui donne une distribution de moyenne 0 et d'ecart-type 1. La normalisation min-max ramene lineairement les valeurs dans un intervalle, typiquement [0,1]. On standardise par defaut pour les modeles sensibles a l'ec... | original | |
evaluation-000 | evaluation | Pour un entretien technique : Qu'est-ce que le score BLEU et quelles sont ses limites ? | BLEU (Bilingual Evaluation Understudy) mesure la similarite entre un texte genere et une ou plusieurs references, en comparant les n-grammes communs, typiquement de 1 a 4, avec une penalite de brievete pour eviter les sorties trop courtes. Il varie de 0 a 100. Limites : il est purement lexical et ne capte ni les synony... | paraphrase | |
data-engineering-012 | data-engineering | Explique simplement : Comment equilibrer la diversite et la qualite dans un corpus d'instruction ? | Les deux dimensions comptent, mais l'experience montre qu'un petit corpus soigneusement cure surpasse souvent un grand corpus bruite. La qualite se travaille par une relecture des reponses, une coherence de style et de niveau de detail, et l'elimination des exemples ambigus ou factuellement faux, que le modele apprendr... | paraphrase | |
data-engineering-007 | data-engineering | J'aimerais comprendre. Comment traiter les valeurs aberrantes (outliers) dans un jeu de donnees ? | La premiere question n'est pas comment les supprimer mais d'ou elles viennent. Une valeur aberrante peut etre une erreur de saisie ou de capteur, auquel cas la corriger ou l'ecarter est legitime ; elle peut aussi etre un evenement rare mais reel, et c'est parfois precisement ce que l'on cherche a detecter, comme une fr... | paraphrase | |
deep-learning-llm-018 | deep-learning-llm | En quelques phrases, qu'est-ce que la distillation de modeles ? | La distillation transfere le savoir-faire d'un grand modele, dit enseignant, vers un modele plus petit, dit eleve. Plutot que d'entrainer l'eleve uniquement sur les etiquettes dures du jeu de donnees, on l'entraine a reproduire les sorties de l'enseignant. Les distributions de probabilite completes de l'enseignant, app... | paraphrase | |
evaluation-003 | evaluation | En quelques phrases, comment evaluer un LLM fine-tune au-dela de BLEU et ROUGE ? | Les metriques lexicales ne suffisent pas pour du texte ouvert. On combine plusieurs approches : (1) des metriques semantiques comme BERTScore, qui comparent des embeddings plutot que des mots exacts ; (2) le LLM-as-a-judge, ou un modele fort note les reponses selon des criteres explicites (exactitude, pertinence, style... | paraphrase | |
numpy-pandas-011 | numpy-pandas | J'aimerais comprendre. Pourquoi eviter de construire un DataFrame en concatenant ligne par ligne dans une boucle ? | Parce que chaque `concat` ou `append` cree un NOUVEAU DataFrame et recopie integralement les donnees existantes. Le cout total devient quadratique : ajouter n lignes coute de l'ordre de n au carre operations, ce qui rend le traitement de quelques dizaines de milliers de lignes insupportablement lent. La bonne pratique ... | paraphrase | |
numpy-pandas-011 | numpy-pandas | En quelques phrases, pourquoi eviter de construire un DataFrame en concatenant ligne par ligne dans une boucle ? | Parce que chaque `concat` ou `append` cree un NOUVEAU DataFrame et recopie integralement les donnees existantes. Le cout total devient quadratique : ajouter n lignes coute de l'ordre de n au carre operations, ce qui rend le traitement de quelques dizaines de milliers de lignes insupportablement lent. La bonne pratique ... | paraphrase | |
deep-learning-llm-011 | deep-learning-llm | Pour un entretien technique : Qu'est-ce que le catastrophic forgetting lors d'un fine-tuning ? | L'oubli catastrophique designe la perte de capacites generales d'un modele quand on le specialise trop agressivement sur un domaine etroit : il devient bon sur la nouvelle tache mais regresse sur ce qu'il savait faire auparavant. Les causes typiques sont un learning rate eleve, un trop grand nombre d'epochs, un jeu de ... | paraphrase | |
python-core-015 | python-core | Explique simplement : Pourquoi utiliser le module `logging` plutot que `print` ? | `print` ecrit systematiquement sur la sortie standard, sans contexte ni controle. Le module `logging` apporte : (1) des niveaux de gravite (DEBUG, INFO, WARNING, ERROR, CRITICAL) que l'on filtre sans modifier le code ; (2) des destinations multiples (console, fichier, service distant) via les handlers ; (3) des metadon... | paraphrase | |
evaluation-010 | evaluation | Quelle est la difference entre evaluation hors ligne et evaluation en ligne ? | L'evaluation hors ligne se fait sur un jeu de donnees fige, avant deploiement : elle est rapide, reproductible et sans risque, mais elle ne mesure qu'un proxy de la valeur reelle. L'evaluation en ligne mesure le comportement du systeme aupres de vrais utilisateurs, via des tests A/B et des indicateurs metier : taux d'a... | original | |
deep-learning-llm-009 | deep-learning-llm | Peux-tu m'expliquer : Qu'est-ce que le batch effectif et le gradient accumulation ? | Le batch effectif est le nombre reel d'exemples qui contribuent a une mise a jour des poids. Quand la memoire GPU ne permet pas un grand batch, on utilise l'accumulation de gradient : on effectue plusieurs micro-batchs, on additionne leurs gradients, et on ne met a jour les poids qu'apres N micro-batchs. Le batch effec... | paraphrase | |
mlops-005 | mlops | En quelques phrases, pourquoi conteneuriser une application de machine learning avec Docker ? | Parce que le principal probleme de mise en production d'un modele est la dependance a l'environnement : versions de bibliotheques, pilotes CUDA, systeme d'exploitation. Docker fige tout cela dans une image reproductible qui s'execute a l'identique en local, en CI et en production. Pour le ML, quelques specificites comp... | paraphrase | |
numpy-pandas-002 | numpy-pandas | Explique simplement : Qu'est-ce que le broadcasting en NumPy ? | Le broadcasting est le mecanisme qui permet a NumPy d'appliquer des operations entre tableaux de formes differentes sans copier explicitement les donnees. NumPy etire virtuellement les dimensions de taille 1 pour les faire correspondre. Exemple : ajouter un vecteur de forme (3,) a une matrice (4,3) ajoute le vecteur a ... | paraphrase | |
data-engineering-002 | data-engineering | Pourquoi preferer le format Parquet au CSV pour de gros volumes ? | Parquet est un format colonnaire binaire, la ou le CSV est un format texte ligne par ligne. Avantages de Parquet : le stockage colonnaire permet de ne lire que les colonnes necessaires, donc moins d'entrees-sorties ; la compression est bien plus efficace car les donnees d'une meme colonne sont homogenes ; les types son... | original | |
python-core-006 | python-core | Qu'est-ce que le GIL (Global Interpreter Lock) et quel impact a-t-il ? | Le GIL est un verrou global de CPython qui garantit qu'un seul thread execute du bytecode Python a la fois. Consequence : le multithreading n'accelere pas le code CPU-bound, car les threads ne s'executent pas vraiment en parallele. En revanche, il aide pour l'I/O-bound : le GIL est relache pendant les attentes reseau o... | original | |
data-engineering-008 | data-engineering | Pour un entretien technique : Quelle est la difference entre ETL et ELT ? | Dans une approche ETL, on extrait les donnees, on les transforme sur un systeme intermediaire, puis on charge le resultat deja structure dans l'entrepot. Dans une approche ELT, on extrait et on charge les donnees brutes dans l'entrepot, puis on transforme directement a l'interieur, en s'appuyant sur sa puissance de cal... | paraphrase | |
evaluation-002 | evaluation | J'aimerais comprendre. Qu'est-ce que la perplexite d'un modele de langage ? | La perplexite mesure a quel point un modele de langage est surpris par un texte : c'est l'exponentielle de la loss moyenne par token. Intuitivement, elle represente le nombre effectif de choix equiprobables entre lesquels le modele hesite a chaque token ; plus elle est basse, mieux le modele predit la suite. Une perple... | paraphrase | |
ml-fundamentals-013 | ml-fundamentals | Qu'est-ce que le feature engineering et pourquoi est-ce important ? | Le feature engineering consiste a construire, transformer et selectionner les variables fournies au modele afin d'exposer explicitement l'information utile. Exemples : extraire le jour de la semaine d'une date, calculer un ratio entre deux colonnes, agreger l'historique d'un client, encoder une categorie, appliquer un ... | original | |
numpy-pandas-004 | numpy-pandas | Quelle est la difference entre `apply`, `map` et les operations vectorisees dans Pandas ? | Les operations vectorisees (`df['a'] + df['b']`, methodes `.str`, `.dt`) sont les plus rapides : elles s'executent en code compile. `map` s'applique element par element sur une Series, utile pour un mapping via dictionnaire ou une petite fonction. `apply` est le plus flexible (fonction arbitraire, sur lignes ou colonne... | original | |
ml-fundamentals-019 | ml-fundamentals | Pour un entretien technique : Que signifie l'expression 'no free lunch' en machine learning ? | Le theoreme du no free lunch enonce qu'aucun algorithme d'apprentissage n'est superieur a tous les autres sur l'ensemble de tous les problemes possibles : moyennee sur toutes les distributions concevables, la performance de tous les algorithmes est identique. La consequence pratique est qu'il n'existe pas de meilleur m... | paraphrase | |
python-core-019 | python-core | Qu'apporte le module `itertools` pour traiter de gros volumes de donnees ? | `itertools` fournit des briques d'iteration paresseuses, ecrites en C, que l'on compose pour former des pipelines a memoire constante. Les plus utiles : `islice` pour prendre une tranche sans materialiser, `chain` pour concatener des sources, `groupby` pour regrouper des elements consecutifs, `batched` (Python 3.12) po... | original | |
mlops-001 | mlops | Pour un entretien technique : Qu'est-ce que le format GGUF et Ollama ? | GGUF est un format de fichier concu pour executer des LLM efficacement sur CPU et GPU grand public, notamment via llama.cpp. Il stocke poids quantises et metadonnees dans un seul fichier portable, avec differents niveaux de quantization, par exemple Q4_K_M pour un bon compromis taille/qualite. Ollama est un outil qui s... | paraphrase | |
mlops-012 | mlops | Pour un entretien technique : Qu'est-ce qu'un deploiement canari et un rollback ? | Un deploiement canari consiste a exposer la nouvelle version a une petite fraction du trafic, par exemple 1 a 5 %, tout en laissant la majorite sur l'ancienne. On surveille alors les indicateurs techniques et metier sur ce sous-ensemble ; si tout est conforme, on augmente progressivement la part, sinon on interrompt. L... | paraphrase | |
numpy-pandas-003 | numpy-pandas | Comment optimiser la memoire d'un gros DataFrame Pandas ? | Leviers principaux : (1) sous-typer les colonnes numeriques (`int64` vers `int32`/`int16`, `float64` vers `float32`) avec `pd.to_numeric(..., downcast=...)` ; (2) convertir les colonnes de chaines a faible cardinalite en `category`, ce qui remplace les chaines repetees par des codes entiers ; (3) charger seulement les ... | original | |
python-core-016 | python-core | Comment isoler les dependances d'un projet Python ? | En creant un environnement virtuel par projet, ce qui evite les conflits de versions entre projets et garde l'interpreteur systeme propre. Avec l'outillage standard : `python -m venv .venv` puis activation. On declare ensuite les dependances dans `requirements.txt` ou, mieux, dans un `pyproject.toml`. Point crucial pou... | original | |
deep-learning-llm-014 | deep-learning-llm | En quelques phrases, qu'est-ce que la fenetre de contexte d'un LLM ? | La fenetre de contexte est le nombre maximal de tokens que le modele peut traiter en une fois, prompt et reponse generee compris. Au-dela, il faut tronquer, resumer ou decouper l'entree. Sa taille est limitee par deux facteurs : le cout de l'attention, qui croit quadratiquement avec la longueur, et la facon dont les po... | paraphrase | |
python-core-007 | python-core | Comment gerer proprement les exceptions en Python ? | Principes : (1) attraper des exceptions specifiques, jamais un `except:` nu qui masque meme `KeyboardInterrupt` ; (2) garder le bloc `try` le plus petit possible ; (3) utiliser `finally` ou un context manager (`with`) pour liberer les ressources ; (4) preferer `raise ... from e` pour conserver la cause originale. Exemp... | original | |
evaluation-010 | evaluation | J'aimerais comprendre. Quelle est la difference entre evaluation hors ligne et evaluation en ligne ? | L'evaluation hors ligne se fait sur un jeu de donnees fige, avant deploiement : elle est rapide, reproductible et sans risque, mais elle ne mesure qu'un proxy de la valeur reelle. L'evaluation en ligne mesure le comportement du systeme aupres de vrais utilisateurs, via des tests A/B et des indicateurs metier : taux d'a... | paraphrase | |
evaluation-002 | evaluation | Pour un entretien technique : Qu'est-ce que la perplexite d'un modele de langage ? | La perplexite mesure a quel point un modele de langage est surpris par un texte : c'est l'exponentielle de la loss moyenne par token. Intuitivement, elle represente le nombre effectif de choix equiprobables entre lesquels le modele hesite a chaque token ; plus elle est basse, mieux le modele predit la suite. Une perple... | paraphrase | |
numpy-pandas-006 | numpy-pandas | Comment fonctionne `groupby` dans Pandas ? | `groupby` applique le schema split-apply-combine : on decoupe le DataFrame selon les valeurs d'une ou plusieurs colonnes, on applique une fonction a chaque groupe, puis on recombine les resultats. Exemple : `df.groupby('ville')['prix'].mean()`. On peut agreger plusieurs colonnes et plusieurs fonctions d'un coup avec `.... | original | |
deep-learning-llm-023 | deep-learning-llm | Explique simplement : Pourquoi fusionner un adaptateur LoRA change-t-il la latence d'inference ? | Tant que l'adaptateur reste separe, chaque couche ciblee effectue un calcul supplementaire : en plus du produit par la matrice gelee W, elle calcule la correction de rang faible en passant par les deux petites matrices A et B, puis additionne les resultats. Cela ajoute des operations et surtout des lancements de noyaux... | paraphrase | |
numpy-pandas-015 | numpy-pandas | Peux-tu m'expliquer : A quoi sert l'argument `axis` dans NumPy et Pandas ? | `axis` designe la dimension le long de laquelle l'operation est effectuee, et c'est une source classique de confusion. La bonne intuition est que `axis` indique la dimension qui est CONSOMMEE par la reduction. Sur un DataFrame, `axis=0` parcourt les lignes et produit donc un resultat par colonne : `df.mean(axis=0)` don... | paraphrase | |
evaluation-008 | evaluation | Peux-tu m'expliquer : Comment construire un jeu de test de qualite pour un LLM specialise ? | Quelques principes. Il doit etre representatif de l'usage reel, pas seulement des cas faciles, et couvrir explicitement les cas limites et les questions hors domaine sur lesquelles on attend un refus ou une prudence. Il doit etre suffisamment grand pour que les differences observees depassent le bruit, ce qui suppose e... | paraphrase | |
deep-learning-llm-010 | deep-learning-llm | Pour un entretien technique : Qu'est-ce qu'un chat template et pourquoi doit-il correspondre au modele ? | Un chat template est le format exact dans lequel on serialise une conversation en texte avant tokenisation : marqueurs de debut et de fin de tour, roles systeme, utilisateur et assistant. Chaque famille de modeles a le sien : ChatML avec des balises im_start pour Qwen, des balises INST pour Mistral, un format a en-tete... | paraphrase | |
numpy-pandas-015 | numpy-pandas | A quoi sert l'argument `axis` dans NumPy et Pandas ? | `axis` designe la dimension le long de laquelle l'operation est effectuee, et c'est une source classique de confusion. La bonne intuition est que `axis` indique la dimension qui est CONSOMMEE par la reduction. Sur un DataFrame, `axis=0` parcourt les lignes et produit donc un resultat par colonne : `df.mean(axis=0)` don... | original | |
mlops-015 | mlops | Pour un entretien technique : Comment estimer le cout d'un projet de fine-tuning et d'inference ? | Le cout se decompose en trois postes. L'entrainement se calcule a partir du temps GPU multiplie par le prix horaire, en tenant compte des essais rates et des recherches d'hyperparametres, qui dominent souvent le cout total. Le stockage couvre les poids, les checkpoints intermediaires et les jeux de donnees. L'inference... | paraphrase | |
evaluation-012 | evaluation | Explique simplement : Qu'est-ce qu'un test de regression pour un modele de langage ? | C'est un ensemble de cas figes, avec leurs sorties attendues ou des proprietes verifiables, que l'on rejoue systematiquement a chaque nouvelle version du modele ou du prompt. Le but n'est pas de mesurer une performance globale mais de detecter les regressions : un comportement qui fonctionnait et qui casse. On y met le... | paraphrase | |
python-core-007 | python-core | Peux-tu m'expliquer : Comment gerer proprement les exceptions en Python ? | Principes : (1) attraper des exceptions specifiques, jamais un `except:` nu qui masque meme `KeyboardInterrupt` ; (2) garder le bloc `try` le plus petit possible ; (3) utiliser `finally` ou un context manager (`with`) pour liberer les ressources ; (4) preferer `raise ... from e` pour conserver la cause originale. Exemp... | paraphrase | |
evaluation-010 | evaluation | Explique simplement : Quelle est la difference entre evaluation hors ligne et evaluation en ligne ? | L'evaluation hors ligne se fait sur un jeu de donnees fige, avant deploiement : elle est rapide, reproductible et sans risque, mais elle ne mesure qu'un proxy de la valeur reelle. L'evaluation en ligne mesure le comportement du systeme aupres de vrais utilisateurs, via des tests A/B et des indicateurs metier : taux d'a... | paraphrase | |
ml-fundamentals-001 | ml-fundamentals | J'aimerais comprendre. Comment detecter et prevenir l'overfitting ? | Detection : un ecart important entre une bonne performance sur le train et une mauvaise sur la validation signale le sur-apprentissage. On le visualise avec des courbes d'apprentissage (train et validation au fil des epochs). Prevention : (1) plus de donnees ou de l'augmentation ; (2) regularisation L1/L2, dropout, wei... | paraphrase | |
numpy-pandas-016 | numpy-pandas | Comment detecter et supprimer les doublons dans un DataFrame ? | `df.duplicated()` renvoie un masque booleen marquant les lignes deja vues, et `df.drop_duplicates()` les supprime. Deux parametres comptent : `subset` restreint la comparaison a certaines colonnes, ce qui est indispensable quand une cle metier definit l'unicite mais que d'autres colonnes varient ; `keep` choisit quelle... | original | |
ml-fundamentals-016 | ml-fundamentals | En quelques phrases, qu'est-ce que l'ACP (analyse en composantes principales) ? | L'ACP est une methode de reduction de dimension non supervisee. Elle cherche de nouveaux axes, les composantes principales, qui sont des combinaisons lineaires des variables d'origine, orthogonales entre elles et ordonnees par variance expliquee decroissante. En conservant les premieres composantes, on comprime les don... | paraphrase | |
deep-learning-llm-003 | deep-learning-llm | Pour un entretien technique : Comment fonctionne le mecanisme d'attention dans un Transformer ? | L'attention permet a chaque token de ponderer l'importance des autres tokens pour construire sa representation. Chaque token produit trois vecteurs : une Query (ce qu'il cherche), une Key (ce qu'il offre) et une Value (l'information a transmettre). On calcule des scores par produit scalaire Query-Key, on les normalise ... | paraphrase | |
python-core-001 | python-core | Explique la difference entre `is` et `==` en Python. | `==` compare les valeurs (egalite logique, via la methode `__eq__`), tandis que `is` compare les identites : est-ce le meme objet en memoire, meme `id()`. Exemple : `[1,2] == [1,2]` vaut True (memes valeurs) mais `[1,2] is [1,2]` vaut False (deux objets distincts). On utilise `is` uniquement pour comparer a des singlet... | original | |
mlops-007 | mlops | Comment reduire la latence d'inference d'un LLM ? | Plusieurs leviers, du plus rentable au plus specifique. Utiliser un moteur d'inference optimise comme vLLM ou TGI, qui apportent le batching continu et une gestion efficace du cache KV, transforme generalement le debit. Quantizer le modele en 8 ou 4 bits reduit la memoire et accelere le transfert. Reduire le nombre de ... | original | |
evaluation-013 | evaluation | Pourquoi la taille du jeu de test influence-t-elle la fiabilite des conclusions ? | Parce que l'incertitude d'une metrique decroit approximativement comme l'inverse de la racine carree du nombre d'exemples. Avec 10 exemples, l'intervalle de confiance est si large que seules des differences enormes sont detectables, et un seul cas atypique peut deplacer le score de plusieurs points. Passer a 100 exempl... | original | |
mlops-005 | mlops | Pourquoi conteneuriser une application de machine learning avec Docker ? | Parce que le principal probleme de mise en production d'un modele est la dependance a l'environnement : versions de bibliotheques, pilotes CUDA, systeme d'exploitation. Docker fige tout cela dans une image reproductible qui s'execute a l'identique en local, en CI et en production. Pour le ML, quelques specificites comp... | original | |
deep-learning-llm-003 | deep-learning-llm | Comment fonctionne le mecanisme d'attention dans un Transformer ? | L'attention permet a chaque token de ponderer l'importance des autres tokens pour construire sa representation. Chaque token produit trois vecteurs : une Query (ce qu'il cherche), une Key (ce qu'il offre) et une Value (l'information a transmettre). On calcule des scores par produit scalaire Query-Key, on les normalise ... | original | |
python-core-009 | python-core | Pour un entretien technique : Que signifient `*args` et `**kwargs` ? | `*args` collecte les arguments positionnels supplementaires dans un tuple, `**kwargs` collecte les arguments nommes supplementaires dans un dictionnaire. Ils permettent d'ecrire des fonctions a signature variable ou de faire suivre des arguments a une autre fonction :
```python
def log_appel(fn, *args, **kwargs):
p... | paraphrase | |
ml-fundamentals-013 | ml-fundamentals | Explique simplement : Qu'est-ce que le feature engineering et pourquoi est-ce important ? | Le feature engineering consiste a construire, transformer et selectionner les variables fournies au modele afin d'exposer explicitement l'information utile. Exemples : extraire le jour de la semaine d'une date, calculer un ratio entre deux colonnes, agreger l'historique d'un client, encoder une categorie, appliquer un ... | paraphrase | |
deep-learning-llm-008 | deep-learning-llm | Qu'est-ce que le gradient checkpointing et quel est son compromis ? | Le gradient checkpointing est une technique d'economie de memoire pendant l'entrainement. Normalement, on stocke toutes les activations de la passe avant pour calculer les gradients a la passe arriere. Avec le checkpointing, on n'en conserve que quelques-unes, les points de controle, et on RECALCULE les autres a la vol... | original | |
numpy-pandas-014 | numpy-pandas | Pour un entretien technique : Quelle est la difference entre `np.array` et une liste Python ? | Un tableau NumPy est homogene (un seul dtype), de taille fixe et stocke de facon contigue en memoire ; une liste Python est heterogene, redimensionnable, et stocke des pointeurs vers des objets disperses. Consequences : le tableau consomme bien moins de memoire (pas d'objet Python par element), autorise les operations ... | paraphrase | |
deep-learning-llm-014 | deep-learning-llm | J'aimerais comprendre. Qu'est-ce que la fenetre de contexte d'un LLM ? | La fenetre de contexte est le nombre maximal de tokens que le modele peut traiter en une fois, prompt et reponse generee compris. Au-dela, il faut tronquer, resumer ou decouper l'entree. Sa taille est limitee par deux facteurs : le cout de l'attention, qui croit quadratiquement avec la longueur, et la facon dont les po... | paraphrase | |
python-core-002 | python-core | Peux-tu m'expliquer : A quoi servent les generateurs et le mot-cle `yield` ? | Un generateur est une fonction qui produit ses valeurs paresseusement (lazy), une a la fois, au lieu de tout construire en memoire. `yield` suspend l'execution en renvoyant une valeur, puis reprend au meme point a l'appel suivant. Avantage principal : l'empreinte memoire reste constante meme sur des flux enormes ou inf... | paraphrase | |
deep-learning-llm-023 | deep-learning-llm | J'aimerais comprendre. Pourquoi fusionner un adaptateur LoRA change-t-il la latence d'inference ? | Tant que l'adaptateur reste separe, chaque couche ciblee effectue un calcul supplementaire : en plus du produit par la matrice gelee W, elle calcule la correction de rang faible en passant par les deux petites matrices A et B, puis additionne les resultats. Cela ajoute des operations et surtout des lancements de noyaux... | paraphrase | |
ml-fundamentals-008 | ml-fundamentals | Qu'est-ce que la descente de gradient ? | C'est l'algorithme d'optimisation qui ajuste les parametres d'un modele pour minimiser une fonction de cout. On calcule le gradient de la loss par rapport aux parametres, c'est-a-dire la direction de plus forte augmentation, puis on se deplace dans la direction opposee d'un pas proportionnel au learning rate. Trois var... | original | |
numpy-pandas-014 | numpy-pandas | Explique simplement : Quelle est la difference entre `np.array` et une liste Python ? | Un tableau NumPy est homogene (un seul dtype), de taille fixe et stocke de facon contigue en memoire ; une liste Python est heterogene, redimensionnable, et stocke des pointeurs vers des objets disperses. Consequences : le tableau consomme bien moins de memoire (pas d'objet Python par element), autorise les operations ... | paraphrase | |
deep-learning-llm-009 | deep-learning-llm | Pour un entretien technique : Qu'est-ce que le batch effectif et le gradient accumulation ? | Le batch effectif est le nombre reel d'exemples qui contribuent a une mise a jour des poids. Quand la memoire GPU ne permet pas un grand batch, on utilise l'accumulation de gradient : on effectue plusieurs micro-batchs, on additionne leurs gradients, et on ne met a jour les poids qu'apres N micro-batchs. Le batch effec... | paraphrase | |
numpy-pandas-011 | numpy-pandas | Pourquoi eviter de construire un DataFrame en concatenant ligne par ligne dans une boucle ? | Parce que chaque `concat` ou `append` cree un NOUVEAU DataFrame et recopie integralement les donnees existantes. Le cout total devient quadratique : ajouter n lignes coute de l'ordre de n au carre operations, ce qui rend le traitement de quelques dizaines de milliers de lignes insupportablement lent. La bonne pratique ... | original | |
deep-learning-llm-019 | deep-learning-llm | Peux-tu m'expliquer : Qu'est-ce que le prompt engineering et quand suffit-il ? | Le prompt engineering consiste a formuler l'entree pour obtenir le comportement voulu sans modifier les poids : role systeme explicite, consignes precises, exemples few-shot, format de sortie impose, decomposition du raisonnement en etapes. Il suffit dans beaucoup de cas, et c'est presque toujours la bonne premiere ten... | paraphrase | |
mlops-002 | mlops | Pour un entretien technique : Comment servir un modele fine-tune via une API ? | Le schema classique : un serveur web comme FastAPI charge le modele UNE fois au demarrage, puis expose un endpoint qui recoit un prompt et renvoie la generation. Bonnes pratiques : charger le modele au startup et non a chaque requete ; valider les entrees avec Pydantic ; borner le nombre de tokens generes ; ajouter un ... | paraphrase | |
ml-fundamentals-010 | ml-fundamentals | Pour un entretien technique : Qu'est-ce qu'une matrice de confusion et que lit-on dedans ? | C'est un tableau croisant les classes reelles et les classes predites. En binaire, elle contient les vrais positifs, vrais negatifs, faux positifs (fausses alertes) et faux negatifs (cas manques). Toutes les metriques classiques en derivent : la precision est la part de vrais positifs parmi les predictions positives, l... | paraphrase |
Corpus Q&A Python / Data Science / ML (français)
Corpus écrit à la main de 126 paires question/réponse en français sur Python, la data science et le machine learning, conçu pour le fine-tuning d'instruction d'un LLM.
- Auteur : Milan Ganivet
- Langue : français
- Licence : CC BY 4.0
- Source : https://github.com/mrSvet0zar/llm-finetuning-qlora
Composition
| Catégorie | Concepts |
|---|---|
| deep-learning-llm | 24 |
| ml-fundamentals | 20 |
| python-core | 20 |
| numpy-pandas | 18 |
| mlops | 16 |
| data-engineering | 14 |
| evaluation | 14 |
| Total | 126 |
| Longueur des questions | 10 mots en moyenne (6 → 15) |
| Longueur des réponses | 109 mots en moyenne (83 → 125) |
| Volume total | ~13 700 mots de réponses |
Structure
Un fichier JSON par catégorie dans data/corpus/ :
{
"instruction": "Qu'est-ce que le broadcasting en NumPy ?",
"output": "Le broadcasting est le mecanisme qui permet a NumPy d'appliquer..."
}
scripts/generate_dataset.py assemble ces fichiers et attribue à chaque
concept un group_id stable ({categorie}-{index}), unité indivisible du
découpage.
Découpage — le point méthodologique central
| Split | Exemples | Concepts | Catégories |
|---|---|---|---|
| train | 255 | 85 | 7/7 |
| validation | 17 | 17 | 7/7 |
| test | 24 | 24 | 7/7 |
Trois garanties, dans cet ordre :
- Découpage par groupe — toutes les variantes d'un concept restent du même côté. Chaque concept possède une réponse de référence unique ; les répartir entre splits reviendrait à évaluer le modèle sur des réponses vues.
- Stratification par catégorie — les 7 domaines sont représentés dans chaque split. Sans cela, une catégorie entière peut disparaître du test.
- Augmentation après le découpage, sur le train seul — deux reformulations par question (255 = 85 × 3). Validation et test conservent une seule question canonique par concept.
Un contrôle bloquant vérifie qu'aucun group_id ni aucune réponse de
référence ne traverse le découpage, et un test de non-régression
(tests/test_split.py) échoue si cette propriété se perd.
Une fuite de données dans la v1
La première version augmentait avant de découper, aléatoirement ligne par ligne : 8/8 des exemples de test avaient leur réponse exacte présente dans le train. Les métriques étaient gonflées, et le sur-apprentissage masqué. Ce défaut et sa correction sont documentés dans le README.
Constitution
Rédaction manuelle, sans scraping ni génération par un LLM. Chaque réponse vise la concision (~110 mots), l'exactitude technique, et un style homogène : définition, mécanisme, exemple ou cas d'usage, puis limite ou piège courant.
Aucune donnée personnelle, aucun contenu sous licence tierce. Aucune annotation externe : un seul rédacteur, sans processus de relecture croisée.
Limites et biais
| Limite | Détail |
|---|---|
| Taille | 126 concepts — un ordre de grandeur sous ce qu'exige un fine-tuning sérieux |
| Rédacteur unique | Aucune relecture croisée ; les angles morts d'une seule personne sont reproduits tels quels |
| Absence d'accents | Le corpus est écrit sans accents (choix initial de robustesse console). Mauvais choix pour un corpus français : le modèle apprend à ne pas en mettre, ce qui a biaisé les métriques lexicales (voir ci-dessous) |
| Un seul tour | Pas de conversations multi-tours |
| Pas de cas négatifs | Aucune question hors domaine appelant un refus ou une réserve |
| Formulations homogènes | Questions de style proche ; peu représentatif du langage utilisateur réel |
| Couverture | Notions fondamentales uniquement ; ni bibliothèques de niche, ni versions récentes |
L'artefact des accents
Le modèle de base écrit un français correctement accentué (2,70 % des
caractères), le modèle fine-tuné a appris à ne pas en mettre (0,06 %). ROUGE et
BLEU comparant des tokens exacts, métriques ≠ metriques : la baseline
était pénalisée pour une raison purement orthographique, gonflant le gain
mesuré de ~+0.044 de ROUGE-1 — environ la moitié du gain annoncé.
Le scoring normalise désormais les accents des deux côtés. La correction de fond serait de réécrire le corpus en français correctement accentué, ce qui reste à faire.
Leçon transférable : un choix de prétraitement présenté comme cosmétique (« retirer les accents pour la console ») peut contaminer la mesure.
Usage recommandé
Adapté à : démonstration de pipeline de fine-tuning, recherche sur le PEFT, base de comparaison entre méthodes d'adaptation.
Non adapté à : entraîner un assistant technique destiné à un usage réel (volume trop faible), ni à servir de référence de vérité factuelle.
Citation
@misc{ganivet2026corpuspyds,
author = {Ganivet, Milan},
title = {Corpus Q&A Python/Data Science/ML en francais},
year = {2026},
url = {https://github.com/mrSvet0zar/llm-finetuning-qlora}
}
- Downloads last month
- 15