Se fundamenta en conceptos de la Teoría de la Información, como la Redundancia y Entropía de los datos (ver compresión de datos) y es generalmente implementada usando uno o dos tipos de modelos diferentes: el estático y aquel basado en diccionario.