) "X", 以及 "I"("Y" ; "X") 是一种互信息（Mutual Information），在 "Y" 与 "X" 之间被定义为此处的 "H"("Y") 与 "H"("Y" | "X") 是指信宿（output signal） "Y" 的熵（entropy）以及基于信源（source signal）和信宿（output signal）相关的条件熵（conditional entropy）, 分别为:这一样来便可推导出率失真的公式, 相关表示如下:这两个公式之间互为可逆推。Secti