失真（有损信源编码）中准确恢复。这是在数据压缩的概念。
信源编码定理.在信息论中，信源编码定理非正式地陈述为：
码符号的信源编码定理.令 表示两个有限编码表，并令 和 （分别）表示来自那些编码表的所有有限字的集合。设 为从 取值的随机变量，令 为从 到 的唯一可译码，其中 。令 表示字长 给出的随机变量。如果 是对 拥有最小期望字长的最佳码，那么(Shannon 1948)：
证明：码符号的信源编码定理.对于 令 表示每个