情報量
それぞれのできごとの情報量だけでなく、それらのできごとの情報量の平均値も情報量と呼ぶ。両者を区別する場合には、前者を選択情報量(自己情報量や自己エントロピーとも)、後者を平均情報量(エントロピーとも)と呼ぶ。