Se define la entropía del proceso estocástico, también llamada entropía del n-grama y denotado por formula_56, como: