順序統計量
順序統計量（じゅんじょとうけいりょう、）は、統計において "k" 番目に小さい値である標本を求めることをいう。日本工業規格では、「標本のすべての観測値をその大きさの順に小さい方から並べたもの。また、より一般的にはこの並び替えの関数として求められる統計量すべてを指すこともある。」と定義している。
ランク統計量と共に順序統計量は、非パラメトリック統計学における最も基本的ツールとなっている。
順序統計量における重要な特殊例としては、標本の最小値、最大値、中央値、分位などがある。
連続確率分布での無作為標本の順序統計量を確率論的に分析する場合、一様分布の順序統計量ならば累積分布関数によって分析を簡略化できる。
例えば、4つの数が観測され記録されたとすると、標本の大きさは formula_1 となる。各観測値は以下のようであったとする。
これを通常、次のように表記する。
formula_3 の添え字 "i" は記録上の順序を単に表し、通常は重要ではない。時系列では順序が重要となる。
順序統計量では次のように表記する。
ここで括弧で囲まれた添え字 ("i") が順序統計量での "i" 番目の値を表す。
順序統計において、第一順序統計量（または"最小順序統計量"）は最小値を表し、次のように表記される。
ここで、確率変数を示す一般的な記法として大文字を使用している。小文字は具体的な観測値を指すのに使われる。
同様に大きさ "n" の標本で第 "n" 順序統計量（または"最大順序統計量"）は最大値を表し、次のように表記される。
より一般的に順序統計量は
の関係で与えられる。
観測値の範囲は最大値と最小値の差である。これは明らかに順序統計量の関数となっている。
探索的データ解析での類似の重要な統計量である四分位数は順序統計量に関係している。
標本の中央値（第2四分位点）は順序統計量となる場合もあるし、そうでない場合もある。というのは、標本の大きさ formula_9 が奇数であった場合だけ唯一の中央値が存在するからである。正確に言えば、formula_10 となる整数 formula_11 があるとき、中央値 formula_12 は順序統計量である。一方、formula_9 が偶数の場合は formula_14 となるので、中央値の候補は formula_15 と formula_12 の2つとなり、中央値はこれらの関数（一般に平均）で表されるため、順序統計量とは言えない。同様の注意はあらゆる標本分位点を求める際にも必要となる。
ここでは、標本"X", "X"..., "X"は無作為抽出での標本で連続確率分布に従うものとし、単純化のために確率密度関数があるものとする（つまり絶対連続である）。
いま "X", "X"..., "X" は 無作為抽出での標本であるとする。すなわち、同一分布に従い、互いに独立 である（i.i.d.）とする。さらに、これらは連続分布を持つ確率変数であり、"f" ("x") がその確率密度関数、"F" ("x") が累積分布関数とする。また、これらを小さい順に並べた順序統計量を"X", "X"..., "X" とする。この時、"k" 番目の順序統計量"X"の累積分布関数は次で与えられる。
また、その確率密度関数は
特に最小値formula_19、最大値formula_20については、
となる。
累積分布関数
formula_22
において、確率値"P"( ) 内の事象は『"n" 個中少なくとも "k" 個の "X" が "x" 以下』 = 『"x" 以下の値が"n" 回の試行中 "k" 回以上発生する』を意味することから
が成り立つ。
確率密度関数と累積分布関数の関係に注意すれば、
となる。上記の畳み込み級数の総和は、最初と最後の項以外は全て相殺されるため
となる。さらに第二項はゼロとなるから
を得る。
この節では、特に単位区間上の一様分布からの順序統計量を考え、それがベータ分布族に属する周辺分布を持つことを示す。また、任意個の順序統計量の同時分布を求め、累積分布関数を用いて任意の連続型分布のケースに一般化する簡単な方法を示す。
なお、 "X", "X"..., "X" が、累積分布関数 "F" を持つ連続型分布から得られた無作為標本とすると、 "U" = "F"("X") と置くことによって、標準一様分布にしたがう無作為標本 "U"..., "U" が得られることに注意する。また、対応する順序統計量"X", "X"..., "X"においても、"U" = "F"("X") が成り立つことに注意する。
標準一様分布からの"k"番目の順序統計量 "U" が ["u", "u" + "du"] の範囲に落ちる確率は
に等しい。よって、 "U"の確率密度関数は、
で与えられる。ここで、"B" ("k", "n-k+1" )はベータ関数を表す。したがって、"U"はベータ分布に従う確率変数
となる。
証明は以下の通り。"U" が "u" と "u" + d"u" の間にあるためには、標本中の "k" − 1 個の要素が "u" より小さく、かつ少なくとも 1 個の要素が "u" と "u" + d"u" の間にあることが必要である。複数の要素が後者の範囲にある確率は "O" ("du") となるため、求める確率は、"k" − 1 個の観測値が (0, "u") に、1 個が ("u" , "u" +"du") に、"n" − "k" 個が ("u" +"du", 1) に落ちる場合に相当する。つまり、その確率は
に等しい（詳しくは多項分布参照）。
同様に、"i" 点推定であるが、絶対的な意味で特に優れているわけではないことを、この例は表している。母集団中央値のより良い信頼区間は、この例の場合、2 番目と 5 番目の順序統計量で囲まれた区間であり、母集団中央値を含む確率は次のようになる:
このように小さな標本サイズでは、もしも少なくとも 95% の信頼度が欲しければ、確率 31/32 つまり約 97% で 6 個の観測値の最小値と最大値の間にある、と表現することになってしまう。サイズ 6 は、最小値と最大値で決まる区間が、少なくとも 95% 信頼区間になるような最小の標本サイズである。
もしも分布が対称であることがわかっていて、分散が有限ならば（例えば正規分布のような場合）、母集団の平均値は中央値に等しく、標本平均値は標本中央値よりもかなり良い信頼区間を持つ。これは、分布に依存しない統計的方法の相対的弱点を表している。他方において、もしも間違った分布に立脚した方法を用いると、推定に大きな系統的誤差が生じてしまう可能性もある。
数列から"k"番目に小さい（大きい）要素を選択する問題は選択問題と呼ばれ、その解法は選択アルゴリズムと呼ばれる。この問題は数列が巨大であればあるほど難しくなるが、要素の順序が完全に無作為であっても要素数に比例した時間内に答えを求めることができる洗練された選択アルゴリズムが知られている。