熵編碼法 熵編碼法是一种独立于介质的具体特征的进行无损数据压缩的方案 一种主要类型的熵编码方式是对输入的每一个符号创建并分配一个唯一的前缀码然后通过将每个固定长度的输入符号替换成相应的可变长度前缀无关prefixfree输出码字替换从而达到压缩数据的目的每个码字的长度近似与概率的负对数成比例因此最常见的符号使用最短的码 根据香农的信源编码定理一个符号的最佳码长是 logbP其中 b 是用来输出的码的数目P 是输入符号出现的概率 霍夫曼编码和算术编码是两种最常见的熵编码技术如果预先已知数据流的近似熵特性尤其是对于信号压缩可以使用简单的静态码这些静态码包括通用密码如Elias gamma coding或斐波那契编码和哥伦布编码比如元编码或Rice编码 一般熵編碼器与其它编码器联合使用比如LHA首先使用LZ编码然后将其结果进行熵編碼Zip和Bzip的最后一级编码也是熵編碼