ランダウの記号

ランダウの記号は、主に関数の極限における漸近的な挙動を比較するときに用いられる記法である。

ランダウの漸近記法 en、ランダウ記法 en あるいは主要な記号として //O// を用いることから//O//-記法 en、ランダウのオミクロンなどともいう。

記号 //O// はドイツ語のdeの頭字にちなむ。

なおここでいうランダウはエドムント・ランダウの事であり、『理論物理学教程』の著者であるレフ・ランダウとは別人である。

ランダウの記号は数学や計算機科学をはじめとした様々な分野で用いられる。

1. 概要
-----

ランダウの記号

は 、//x// がじゅうぶん大きいとき関数 //f// が関数 //g// に比例もしくはそれ以下におさえられることを示す。

たとえば二次関数 3//x//2 + 4//x// &plus; 10 が //x// を限りなく大きくしたときどのように増大するかを考えると、変数 //x// が 2 より大きければ第一項 3//x//2 が他の項より大きく、さらに大きくなるほど支配的になることがわかる。漸近解析をする上では定数倍のような詳細は必要としないことが多く、//O//-記法を用いると、必要な情報を

と端的に表すことができる。

このように関数 //g// としては関数 //f// よりも単純なものが通常用いられる。

一方、ランダウの記号

は関数 //f// がおおよそ関数 //g// 未満であることを示している。

たとえば //x// が十分大きいとき 3//x//2 + 4//x// &plus; 10 は //x//3 と比べると小さくなり、//o//-記法を用いると、これを

と表すことができる。

これまでは変数を限りなく大きくしたときを例に説明してきたが、他にも変数を限りなく小さくしたときや、定数に限りなく近づけたときの漸近挙動も同様にランダウ記法で表すことができる。どの意味で記号が用いられているのかを

のように明示する書き方もある。

//f// = //O//), //f// = //o//)  はそれぞれ

　が存在する場合には、その値が有限であること。極限が存在しない場合、即ち振動する場合でも該当することはあることには注意されたい。
を表す。特に //f// = //o// は lim //f// = 0 と同値である。

ランダウ記法は様々な分野で有益であり、たとえば指数関数を3次までテイラー展開したものは

と書き表せる。

記号 //O// と//o// は通常、関数の収束や発散の漸近的な上界を記述する為に用いられる。同様に漸近的な下界を記述する為にΩ, ωという類似記法が用いられ、上下両方を記述する為にΘ という記法を用いる。

ただし、Ω、ω、Θは主に計算機科学で用いられる記法であり、数学では //O// と //o// をこれらの意味に流用する事が多い。

2. 厳密な定義
--------

十分大きい全ての実数 //x// に対し定義されている実数値関数 //f// と //g// に対し、

を

と定義し、「//f// が //x// → ∞ のとき オーダー//O//) である」と呼ぶ。

また、//a// を実数とするとき、//a//の近傍で定義された実数値関数//f// と //g// に対し、

を

で定義し、「//f// が //x// → //a// のとき オーダー//O//) である」と呼ぶ。

なお、//a// の十分近くで　 //g// が 0 を値にとらない場合、は

が満たされることと同値である。特に //f// = //O// は、近傍において //f// が有界であることと同値である。

3. 記法の問題
--------

上で定義された

という記法は広く用いられている確立した慣習ではあるが紛らわしい記法の濫用で、二つの関数が等しいという意味ではない。

この記法の濫用は、等号の両辺に//O// -記法が登場した際に問題となり、例えば//x// →∞のとき、

　 　であるが、　 　である。すなわち、両辺に//O// -記法が登場した場合には、直観的には十分大きな//x// で左辺/右辺が定数未満になる事を意味する。

こうした記法上の問題を回避する為に、

ないし、

と書く流儀もあるが、一般的ではない。前者の場合、「//O//」 は //g// の定数倍によって押さえられる関数全体からなる集合であるとみなしていることになる。

より複雑な使い方としては、//O// が等式の異なる場所に複数、もちろん両辺にわたって複数回現れるというものがある。例えば、以下は //n// → ∞ で正しい内容を記述している。

これらの式の意味は、次のように解釈する：

左辺の //O// を満たす「任意の」関数に対して、右辺の //O// を満たす「ある」関数を適切に選べば、それらの関数を代入した等式の両辺が等しいようにできる。例えば三つの目の式は、

任意の関数 //f// = //O// に対し、//g// = //O// を満たす//g//を適切に選べばが成立する事を意味する。

二つの目の式のように左辺に複数の//O//がある場合は、それらすべてに対して上述のルールを適応する。したがって二つの目の式は、

任意の関数、に対し、を満たす//g//を適切に選べばが成立する事を意味する。

4. 性質
-----

//O//-記法は次の性質を満たす。//o//-記法も同様の性質を満たす。

推移律 : 和 : 積 : 定数倍 : 冪等性 : また //p// と //q// をゼロでない //n// の多項式とすると

が成り立つ。

5. 多変数の場合
---------

漸近記法は多変数になっても有効である。たとえば

という言及が示唆するのは、定数 //C//, //N// で

を満たすものの存在である。ここで //g// は

で定められるものである。混乱を避けるためには、動かす変数は常に明示する必要がある。つまり

という言明は、次の

とは明確に異なる言明である。

6. その他の漸近記法
-----------

//O//-記法と関連がある、Ω-記法、ω-記法、Θ-記法を導入する。

Ω-記法とω-記法はそれぞれ、//O//-記法と//o//-記法の定義で大小を反転させる事により得られる。Θ-記法Θは //O// と Ω//// を両方満たすことを意味する。

ただし、Ω-記法に関しては、この記法を初めて導入したハーディーとリトルウッドは今日のそれとは若干異なった意味に用いていたので、あわせてそれも記す。。

今日の定義との違いの要点をかいつまんでいえば、今日の定義ではΩ-記法は前述のように//O//-記法の定義の大小反転だが、ハーディー達の定義ではΩは//o//を満たさない事として定義していた。

両者の定義は性質のよい関数、例えば多項式に対しては同値だが、極限に近づく際に振動するような関数に関しては必ずしも同値ではない。

また、計算機科学では

を

の意味で用いる。対数因子を無視すればこれは本質的には O-記法である。この記法は "nit-picking" のクラスを記述するのにしばしば用いられる。これは log//k// が任意の定数 //k// と正の定数 ε に対して常にo となるからである。

7. 一般化と関連用法
-----------

関数のとりうる値は、絶対値をノルムに取り替えるだけでそのまま任意のノルム線型空間の元に一般化できる。//f// や //g// は同じ空間に値を取る必要はない。//g// のとる値は任意の位相群の元にすることも可能である。

「極限操作」"//x// → //x//0" は、勝手なフィルター基の導入によって //f// と //g// の有向点族として一般化される。

//o//-記法は微分の定義や、極めて一般の空間における微分可能性を定義するのに有効である。また、関数の漸近同値を

と定めることができる。これは同値関係であり、上述の //f// が Θ 程度であるという関係よりもなお強い制限を表す記法になっている。//f// と //g// が正値実数値関数なら lim //f/////g// = 1 なる関係式に簡略化できる。例えば、2//x// は Θ のオーダーだが、 2//x// − //x// は //o// のオーダーでない。

8. 一般的なオーダー
-----------

計算機科学、特に計算量理論、アルゴリズム論、暗号理論では、アルゴリズムの計算時間を評価するのに //O//-記法を頻繁に用いる。

アルゴリズムの計算量の評価よく使われる//O//-記法関数の種類を示す。

これらの中でも特に重要なものには、個別の名称がついている。

以下、 //n//はアルゴリズムに入力されるデータのビット数を表す。

注意しなければならないのは、アルゴリズムに整数 //N// を入力するときである。//N// のビット数 //n// はおよそ log2 //N// なので、例えば「多項式時間」といったとき、これは//N// の多項式ではなく //n// の多項式を表す。

一般的ではないが、更に発散速度の速い関数も存在する。逆に更に発散速度の遅い関数として、逆関数である逆アッカーマン関数 α などもあり、実際にあるアルゴリズムの計算量の見積りとして出現する。この関数は上界こそないものの、非常に発散速度が遅いために実用的には定数と見なされる  = 1, α = 2, α = 3, , ...)。

9. 歴史
-----

//O//-記法はドイツの数論家であるポール・バッハマンによって1894年に彼の著書『解析数論』 の第二巻で初めて導入された。これに触発されてエドムント・ランダウが1909年に//o//-記法を発明したGraham。

なお、ハーディとリトルウッドもランダウの記号に相当するものを別の記号で表現している。彼らはΩ-記法も現在と近い意味で用いており、今日の言葉でいえば、彼らのΩはoでない事を表している。

またイヴァン・ヴィノグラードフは と を同じ意味で用いているKnuth。

ドナルド・クヌースは、計算機科学の世界に//O//-記法を導入し、Ω-記法やΘ-記法も再導入したKnuth。

10. 具体例
-------

関数 //f// が他の関数の有限和で表せるとき、その内最も発散速度の速い関数が //f// のオーダーを決定づける。以下にその例を挙げる。

例での場合、係数を無視して//n//に関する項を見ると、log //n//、//3//、//n////2//、//n////3//の4つが存在し、このうち//n////3//が最も発散が速い。そのため、他の//n//に関する項に関わらず、オーダーは//O//とする。

特に、関数が //n// の多項式でおさえられるならば、//n// が無限大に発散するに従ってより低いオーダーの項まで無視できるようになる。

//O// と //O// は全く異なる。前者の定数 //c//がどれほど大きかろうと、後者の方がずっとずっと速く発散する。どのような定数 //c// に対しても //n////c//より速く発散する関数は超多項式 en と呼ばれる。また、どのような定数 //c// に対しても //c////n// よりも遅く発散する関数は準指数関数 en と呼ばれる。アルゴリズムの計算量が超多項式かつ準指数関数であることもあり得る。例えば、現在知られている内で最も早い因数分解のアルゴリズムもこれに含まれる。

//O// と //O//) は全く等価である。なぜならば、log = //c// log   //n// より2つの指数関数は定数係数のみが異なり、これは big //O//-記法では無視されるからである。同様に異なる底を持つ対数関数も等価であるが、一方、異なる底を持つ指数関数は等価ではない。これはよくある勘違いである。例えば、2//n// と 3//n// は同じオーダーではない。

入力サイズの単位の変更は、アルゴリズムの計算量を変えるかもしれないしそうでないかもしれない。単位を変更するということは、関数に現れる全ての //n// にある定数を掛けることと同じである。例えば、アルゴリズムが //n//2 のオーダーで動くとき、//n// を //cn// で置き換えれば計算量は //c//2//n//2 となり、big //O//-記法では //c//2 は無視されるので計算量は変化しない )。しかし例えば 2//n// のオーダーで動くアルゴリズムでは、//n// を //cn// で置き換えると計算量は 2//cn// = //n// となる。これは 2//n// とは等しくない。

10.1. 例
-------

次の多項式関数を考える

このとき、//f// のオーダーは //O//) または //O// である。実際、オーダーの定義からこれはある定数 //C//と //x//0 が存在して、//x//0 < //x// なる任意の //x// に対し |//f//| ≤ //C// |//g//| が成り立つことを意味するが、//x// > 1 において

であるから、//C// = 13, //x//0 = 1 とおけばよい。

リーマン予想が正しければ、//x// 以下の素数の個数 π は次のようにと評価できる。
バブルソートの時間的計算量を考えると、//n// 個の要素からなる列をソートするのに掛かる時間は//O// である。クイックソートを使えば、平均計算時間を //O// に改善できる。
//n// 次正方行列の固有値を求めるアルゴリズムは、少なくともその行列に含まれる //n//2 個の要素を読み取らなければならない。従って、固有値を求めるアルゴリズムの時間的計算量の下界は Ω である。すなわち、一般的な行列に対してその固有値を計算するのに掛かる時間が //n//2 のオーダーを下回るアルゴリズムは存在しない。

10.2. 無限大における漸近挙動と計算量の見積り
-------------------------

//O//-記法はアルゴリズムの効率を解析するのに有用である。たとえば、あるサイズ //n// の問題を解くのに掛かる時間あるいは手順数が //T// = 4//n//2 − 2//n// + 2 である場合を考える。

このとき、//n// を次第に大きくしていくと、 //T// に対して //n//2 の項の影響が支配的になり、他の項はほとんど無視できるようになる。

さらに、//n//3 や 2//n// といった他のオーダーの式と比較する分には係数も無関係になる。

こうして残る影響をすくい上げて、//O//-記法では

と書いて、「//n//2 のオーダーである」と言い、これによってこのアルゴリズムの時間あるいは手順数//T// の増加具合が //n//2 に支配されることを表現する。

11. 脚注
------

12. 参考文献
--------

Marian Slodicka & Sandy Van Wontergem. //Mathematical Analysis I//. University of Ghent, 2004.
Donald Knuth. //The Art of Computer Programming//, Volume 1: //Fundamental Algorithms//, Third Edition. Addison-Wesley, 1997. ISBN 0-201-89683-4. Section 1.2.11: Asymptotic Representations, pp.107–123.
Thomas H. Cormen, Charles E. Leiserson, Ronald L. Rivest, and Clifford Stein. //Introduction to Algorithms//, Second Edition. MIT Press and McGraw-Hill, 2001. ISBN 0-262-03293-7. Section 3.1: Asymptotic notation, pp.41–50.
author = Michael Sipser Pages 226–228 of section 7.1: Measuring complexity.
Jeremy Avigad, Kevin Donnelly. //[1]//
Paul E. Black, [2], in //Dictionary of Algorithms and Data Structures// [online], Paul E. Black, ed., U.S. National Institute of Standards and Technology. 11 March 2005. Retrieved December 16, 2006.
Paul E. Black, [3], in //Dictionary of Algorithms and Data Structures// [online], Paul E. Black, ed., U.S. National Institute of Standards and Technology. 17 December 2004. Retrieved December 16, 2006.
Paul E. Black, [4], in //Dictionary of Algorithms and Data Structures// [online], Paul E. Black, ed., U.S. National Institute of Standards and Technology. 17 December 2004. Retrieved December 16, 2006.
Paul E. Black, [5], in //Dictionary of Algorithms and Data Structures// [online], Paul E. Black, ed., U.S. National Institute of Standards and Technology. 29 November 2004. Retrieved December 16, 2006.
Paul E. Black, [6], in //Dictionary of Algorithms and Data Structures// [online], Paul E. Black, ed., U.S. National Institute of Standards and Technology. 17 December 2004. Retrieved December 16, 2006.

13. 関連項目
--------

漸近展開 - テーラーの公式の一般化である関数の近似
漸近最適 - 考えている問題の下界となる定数の範囲内に上界が漸近的に収まるようなアルゴリズムを記述する際にしばしば用いられる用語
ハーディー記法 - 別の漸近記法
ナックビンの定理 - 有界な複素解析関数について、積分変換の収束域について述べるためのもの