確率測度の自己情報量が小さい場合、主に以下の特徴が見られます。まず、自己情報量は、確率測度がどれだけ「予測可能」であるかを示す指標です。自己情報量が小さい確率測度は、特定のシンプルな文字列に高い確率を持ち、複雑な文字列に対しては低い確率を持つ傾向があります。具体的には、自己情報量が小さい場合、確率測度は以下のような性質を持つことが多いです：
単純な文字列への集中: 確率測度が特定の単純な文字列に高い確率を割り当てる場合、自己情報量は低くなります。例えば、特定のパターンや規則に従った文字列が多く含まれる場合です。
複雑な文字列の低確率: 複雑な文字列に対しては、確率が非常に低く設定されるため、全体の自己情報量が減少します。
均一分布の特性: 均一分布のように、すべての可能な結果に対して同じ確率を持つ場合、自己情報量は高くなりますが、特定の結果に集中する場合は自己情報量が低くなります。
このように、自己情報量が小さい確率測度は、特定のシンプルな構造を持ち、複雑性が低いことが特徴です。