結合エントロピー
結合エントロピー（けつごうエントロピー、）とは、情報理論における情報量の一種。結合エントロピーは、2つの確率変数の結合した系でのエントロピーを表す。確率変数 formula_1 と formula_2 があるとき、結合エントロピーは formula_3 と記される。他のエントロピーと同様、単位は対数の底によってビット (bit)、ナット (nat)、ディット (dit) が使われる。