相互情報量
多くの場合、相互情報量を最大化させ(つまり相互依存性を強め)、条件付きエントロピーを最小化させるという方向で使われる。以下のような例がある。
通信路容量は相互情報量(伝達情報量)を使って定義される。
多重配列アラインメントによるRNAの二次構造予測
機械学習における特徴選択や特徴変換の尺度として相互情報量が使われてきた。
相互情報量はコーパス言語学における連語の計算における重み付け関数として使われることが多い。
相互情報量は医用画像処理における画像の位置合わせに使われる。ある画像と別の画像の座標を合わせるために、両者の相互情報量が最大となるように位置合わせを行う。
時系列解析における位相同期(英語版)の検出。
情報量最大化独立成分分析アルゴリズムでも利用されている。
ターケンスの定理(英語版)では平均相互情報量を使って埋め込み遅延パラメータを求める。