二値エントロピー関数
情報理論において、二値エントロピー関数（にちエントロピーかんすう、binary entropy function）は formula_1 もしくは formula_2 のように表記され、確率 formula_3 の1値または2値ベルヌーイ過程の情報エントロピーとして定義される。数学的には、ベルヌーイ試行は0か1の排他的な2値のみをとりうる確率変数 formula_4
formula_5 のとき formula_6 であり、formula_4 のエントロピーは（シャノン単位で）次のように与えられる。
ここで、 formula_9 は 0 とする。この式中の対数は通常、底を2とする。二進対数も参照されたい。
formula_10 のとき、二値エントロピー関数は最大値をとる。これは偏りのないコイントスに対応する。
formula_1 は単一の実数を引数としてとり、確率分布や確率変数を引数とするエントロピー関数 formula_12 とは区別される。二値エントロピー関数を formula_13 と表記する場合もある。しかし、 も formula_14 と表記することがあるため、混同に注意が必要である。