結合エントロピー
結合エントロピー(けつごうエントロピー、英: joint entropy)とは、情報理論における情報量の一種。結合エントロピーは、2つの確率変数の結合した系でのエントロピーを表す。確率変数 X {\displaystyle X} と Y {\displaystyle Y} があるとき、結合エントロピーは H ( X , Y ) {\displaystyle H(X,Y)} と記される。他のエントロピーと同様、単位は対数の底によってビット (bit)、ナット (nat)、ディット (dit) が使われる。