Le codage de Huffman est un algorithme de compression de données sans perte.
Le codage de Huffman utilise un code à longueur variable pour représenter un symbole de la source (par exemple un caractère dans un fichier).
Le code est déterminé à partir d'une estimation des probabilités d'apparition des symboles de source, un code court étant associé aux symboles de source les plus fréquents.
Un code de Huffman est optimal au sens de la plus courte longueur pour un codage par symbole, et une distribution de probabilité connue. Des méthodes plus complexes réalisant une modélisation probabiliste de la source permettent d'obtenir de meilleurs ratios de compression.
Il a été inventé par David Albert Huffman, et publié en 1952.
Principe.
Le principe du codage de Huffman repose sur la création d'une structure d'arbre composée de nœuds.
Supposons que la phrase à coder est « "this is an example of a huffman tree" ».
On recherche tout d'abord le nombre d'occurrences de chaque caractère.
Dans l'exemple précédent, la phrase contient 2 fois le caractère "h" et 7 espaces.
Chaque caractère constitue une des feuilles de l'arbre à laquelle on associe un poids égal à son nombre d'occurrences.
 this is an example of a huffman tree
Occurence de chaque caractère, trié du plus fréquent au moins fréquent :
L'arbre est créé de la manière suivante, on associe chaque fois les deux nœuds de plus faibles poids, pour donner un nouveau nœud dont le poids équivaut à la somme des poids de ses fils.
Premier nœud avec u et x (de poids 2 = 1 + 1), avec mise à jour de l'ordre de tri :
On réitère ce processus jusqu'à n'avoir plus qu'un seul nœud : la racine.
Deuxième nœud avec p et r :
Troisième nœud avec l et o :
Quatrième nœud avec p-r et l-o de poids total 4 :
Cela continue jusqu'à ce qu'il ne reste plus que l'arbre de codage (dont le poids est le nombre de caractères).
On associe ensuite par exemple le code 0 à chaque embranchement partant vers la gauche et le code 1 vers la droite.
Pour l'exemple précédent, on obtient cet arbre :
Et cette table de codage binaire :
Pour obtenir le code binaire de chaque caractère, on remonte l'arbre à partir de la racine jusqu'aux feuilles en rajoutant à chaque fois au code un 0 ou un 1 selon la branche suivie.
Il est nécessaire de partir de la racine pour obtenir les codes binaires car sinon lors de la décompression, partir des feuilles peut entraîner une confusion lors du décodage.
La phrase « "this is an example of a huffman tree" » se code alors sur 137 bits au lieu de 288 bits (si le codage initial des caractères tient sur 8 bits).
 t h i s i s a n e x a m p l e 
 1110 01101 01110 1101 10 01110 1101 10 010 1100 10 000 11111 010 01111 00100 00110 000 10
 o f a h u f f m a n t r e e
 00111 01100 10 010 10 01101 11110 01100 01100 01111 010 1100 10 1110 00101 000 000
L'algorithme génère des codes non ambigus pour le décodeur : chaque code généré (Par exemple : 10 pour espace) n'est le préfixe d'aucun autre.
Différentes méthodes de construction de l'arbre.
Il existe trois variantes de l'algorithme de Huffman, chacune d'elles définissant une méthode pour la création de l'arbre :
Propriétés.
Un code de Huffman est un code de source.
Pour une source formula_1, représentée par une variable aléatoire formula_2, de distribution de probabilité formula_3, l'espérance de la longueur d'un code formula_4 est donnée par 
Où formula_6 est la longueur du mot de code, formula_7 le code associé au symbole de source formula_8, et formula_9 est l'ensemble des symboles de source.
Un code de Huffman est un code préfixe à longueur variable.
Il est optimal, au sens de la plus courte longueur, pour un codage par symbole.
C'est-à-dire que pour un code de Huffman formula_10, et pour tout code formula_4 uniquement décodable, alors :
Limitations du codage de Huffman.
On peut montrer que pour une source X, d'entropie H(X) la longueur moyenne L d'un mot de code obtenu par codage de Huffman vérifie :
Cette relation montre que le codage de Huffman s'approche de l'entropie de la source et c'est-à-dire du code optimum mais cela peut s'avérer en fait assez peu intéressant dans le cas où l'entropie de la source est forte, et où un surcoût de 1 bit devient important. De plus le codage de Huffman impose d'utiliser un nombre entier de bit pour un symbole source, ce qui peut s'avérer peu efficace. 
Une solution à ce problème est de travailler sur des blocs de n symboles. On montre alors qu'on peut s'approcher de façon plus fine de l'entropie :
mais le processus d'estimation des probabilités devient plus complexe et coûteux.
De plus, le codage de Huffman n'est pas adapté dans le cas d'une source dont les propriétés statistiques évoluent au cours du temps, puisque les probabilités des symboles se modifient et le codage devient inadapté.
La solution consistant à ré-estimer à chaque itération les probabilités symboles est impraticable du fait de sa complexité en temps.
La technique devient alors le codage Huffman adaptatif : à chaque nouveau symbole la table des fréquences est remise à jour et l'arbre de codage modifié si nécessaire.
Le décompresseur faisant de même pour les mêmes causes… il reste synchronisé sur ce qu'avait fait le compresseur.
En pratique, lorsque l'on veut s'approcher de l'entropie, on préfèrera un codage arithmétique qui est optimal au niveau du bit.
Des méthodes plus complexes réalisant une modélisation probabiliste de la source et tirant profit de cette redondance supplémentaire permettent d'améliorer les performances de compression de cet algorithme (voir ../LZ77, prédiction par reconnaissance partielle, pondération de contextes).
Code canonique.
Pour un même ensemble de symbole à coder, plusieurs codes de Huffman différents peuvent être obtenus.
Il est possible de transformer un code de Huffman en un code de Huffman canonique qui est unique pour un ensemble de symboles d'entrée donné. Le principe est d'ordonner au départ les symboles dans l'ordre lexical. 
Remarque : entre deux symboles S1 et S2 qui, dans un code de Huffman spécifique, sont codés de la même longueur sont toujours codés de la même longueur dans le code Huffman canonique.
Dans le cas où deux symboles ont la même probabilité et deux longueurs de code différentes, il est possible que le passage d'un code de Huffman à un code de Huffman canonique modifie la longueur de ces codes, afin de garantir l'attribution du code le plus court au premier symbole dans l'ordre lexicographique.
Utilisations.
Le codage de Huffman ne se base que sur la fréquence relative des symboles d'entrée (suites de bits) sans distinction pour leur provenance (images, vidéos, sons, etc.). C'est pourquoi il est en général utilisé au second étage de compression, une fois la redondance propre au média mise en évidence par d'autres algorithmes. On pense en particulier à la compression JPEG pour les images, MPEG pour les vidéos et MP3 pour le son, qui peuvent retirer les éléments superflus imperceptibles pour les humains. On parle alors de compression non conservative (avec pertes).
D'autres algorithmes de compression, dits conservatifs (sans pertes), tels que ceux utilisés pour la compression de fichiers, utilisent également Huffman pour comprimer le dictionnaire résultant.
Par exemple, LZH (Lha) et deflate (ZIP, gzip, PNG) combinent un algorithme de compression par dictionnaire (LZ77) et un codage entropique de Huffman.
Histoire.
Le codage a été inventé par David Albert Huffman, lors de sa thèse de doctorat au MIT. L'algorithme a été publié en 1952 dans l'article "A Method for the Construction of Minimum-Redundancy Codes", dans les "Proceedings of the Institute of Radio Engineers".
Les premiers Macintosh de la société Apple utilisaient un code inspiré de Huffman pour la représentation des textes : les 15 caractères les plus fréquents d'une langue étaient codés sur 4 bits, et la 16 configuration servait de préfixe au codage des autres sur un octet (ce qui faisait donc tantôt 4 bits, tantôt 12 bits par caractère voir UTF-8).
Cette méthode simple se révélait économiser 30 % d'espace sur un texte moyen, à une époque où la mémoire vive restait encore un composant coûteux.