非有界作用素
数学の、特に関数解析や作用素論の分野における非有界作用素（ひゆうかいさようそ、）は、位相線型空間のあいだの線型写像で不連続であること・全体では定義されていないことを許したようなものである。幾何学における微分作用素や量子力学における非有界オブザーバブルなどを扱うための抽象的な基礎付けをあたえるのに用いられる。
ここで「非有界作用素」という語は誤解を招く恐れがある。実際に意味するところは、
という点に注意されたい。
有界作用素の場合と異なり、非有界作用素は個々の作用素が異なった定義域を持ちうるため、非有界作用素同士の和や合成がいつでも意味を持つわけではない。
「作用素」という語はしばしば「有界線型作用素」を意味するが、この記事の文脈では「非有界作用素」を表すこととする（ここで上述の注意点に留意されたい）。以下の解説では主にバナッハ空間やヒルベルト空間の間の非有界作用素について説明するが、ほとんどの構成を適切な形に修正してより一般的な位相ベクトル空間へと一般化することができる。
非有界作用素の理論は、1920年代後半、量子力学に対する厳密な数学的基盤を構築するという試みから生じた。理論の系統的な発展はジョン・フォン・ノイマン と マーシャル・ストーンによるものであった。非有界作用素を解析するためにグラフを用いる手法は、フォン・ノイマンにより において導入された。
"B" および "B" をバナッハ空間とする。非有界作用素（あるいは単純に、"作用素"） とは、"B" の線型部分空間 "D"("T") （すなわち、"T" の定義域）から空間 "B" への線型写像 "T" のことである。有界線型作用素の場合とは異なり、ここでは "T" は全空間 "B" 上で定義されない場合も考慮する。二つの作用素が等しいとは、それらが共通の定義域を持ち、その定義域上で同一のものであることを意味する。
作用素 "T" に対して、もしそのグラフ Γ("T") が閉集合であるなら、"T" は閉であると言われるここで、グラフ Γ("T") は直和 の線型部分空間で、ベクトル "x" を"T" の定義域内で動かして得られる対 全てからなる集合である。一般に直和上の(l和ノルムの）グラフへの制限はグラフノルムと呼ばれるが、"T"が閉作用素であるということはグラフノルムを用いて次のように表すことができる: 作用素 "T" が閉であることと、その定義域 "D"("T") がノルム
について完備空間であることは同値な条件である。このことを具体的に言い表すと、"T" の定義域に含まれる点からなる列 ("x") で、"B"のベクトル "x" へと収束し、また "Tx" が"B"のベクトル "y" へと収束するようなものがあったとき、"x" は "T" の定義域に含まれ、が成立する、ということになる。
作用素 "T" はその定義域が "B" において稠密であるとき稠密に定義されていると言われる。 これは全空間 "B" 上で定義される作用素も含む。なぜならば全空間はそれ自身において稠密であるからである。定義域の稠密性は、その作用素の共役（adjoint）・転置（transpose）の存在のための必要十分条件である。また、"S"と"T"について"D"("S") ⊂ "D"("T")かつ"T"| = "S" が成り立つとき"S"は"T"に含まれる（"S" ⊂ "T"）という。
もし が閉で、その定義域上稠密に定義されており連続であるなら、それは全空間 "B" で定義される。
ヒルベルト空間 "H" 上稠密に定義された作用素 "T" は、ある実数 "a" に対して が正作用素となるとき、下に有界であると言われる。これはすなわち、"T" の定義域内のすべての "x" に対して が成立することを意味する。もし "T" と (–"T") の両方とも下に有界であるなら、"T" は有界である。
ルベーグ測度に関するL空間"H"=L[0,1] は [0,1] 上のすべての二乗可積分関数からなるヒルベルト空間である（より正確には、可測で、実数値あるいは複素数値の関数の同値類）。閉区間 [0,1] 上連続的微分可能なすべての関数 "f"("t") からなる集合 "D"("T") を定義域とし、"t"に関する微分によって定義された線型変換
は、 "H"から "H"への非有界作用素を与えている。実際、二つの連続的微分可能関数 "f" および "g" の線型結合の微分についてformula_3 が成り立つため、これは線型作用素である。
この作用素は有界ではない。例えば、[0,1] 上の関数 "f" を formula_4 で定めると、formula_5 であるが formula_6 となる。
この作用素は稠密に定義されているが、折れ線をグラフとするような区分線型関数とその微分の対などがグラフの閉包に含まれるため、閉作用素ではない。
C級関数の空間をふくむ様々なバナッハ空間"B"と連続関数の空間を含むバナッハ空間"B" に対して、上記のように微分を非有界作用素 "B" → "B"と考えることができる。さらに、ノルムの選び方によってはこの構成から有界作用素が得られる。たとえば、定義域ではCノルム自身 formula_7 を考え、値域ではsupノルムを考えれば、微分は連続写像になる。
非有界作用素の共役（adjoint）の定義には、二つの同値な方法がある。
一つ目として、有界作用素の共役を定義するときに用いられるものと同様な方法がある。すなわち、"T" の共役 "T" : "H" → "H" は、次の性質を持つような最大の作用素として定義される:
"T" のより正確な定義は以下のようにする。ベクトル"y" が、formula_9 が "T" の定義域上の連続線型汎関数となるようなものであるならば、この汎関数を全空間へと拡張したのち、
を満たすような "z" を見つけることが可能である。なぜならば、ヒルベルト空間上の線型汎関数の集合は、内積によってもとの空間自身と同一視できるからである。このような "y" それぞれに対して、上の条件を満たす"z" が一意に定められることと、対応する線型汎関数が稠密に定義されていること、すなわち "T" が稠密に定義されていることは必要十分である。このとき、"T""y" = "z" とすることによって、"T" が定められる。このようにして"T" の値がひとつに定まるためには、"T" が稠密に定義されていることが必要十分であることに注意されたい。
定義により、"T" の定義域は、 formula_9 が "T" の定義域上で連続となるような元 formula_12 からなることが分かる。したがって、"T" の定義域はどのようなものでもあり得、例えば自明（すなわち、ゼロのみを含む）であるようなこともある。"T" の定義域は、閉超平面で、その定義上至るところで "T" が消失することもあり得る。
したがって、定義域上での "T" の有界性は、必ずしも "T" の有界性を意味しない。一方で、もし "T" が全空間で定義されるなら、"T" はその定義域上で有界であり、したがって連続性により全空間上の有界作用素へと拡張することが出来る。もし "T" の定義域が稠密であるなら、それには共役 "T" が存在する。稠密に定義された閉作用素 "T" が有界であることの必要十分条件は、"T" が有界であることである。
共役作用素のもう一つの同値な定義は、グラフの直交空間を取ることにより得られる。線型作用素 formula_13 を、formula_14 によって定義する。すると、 formula_15 がある作用素 "S" のグラフであることの必要十分条件は、 formula_16 が稠密に定義されていること、であることが分かる。簡単な計算により、この作用素 "S" は formula_17 を、"T" の定義域内のすべての "x" に対して満たすことが分かる。したがって、"S" は "T" の共役である。
上の定義により、共役 "T" は閉であることがただちに分かる。特に、自己共役作用素（すなわち、"T" = "T"）は閉である。ある作用素 "T" が稠密に定義された閉作用素であるための必要十分条件は、"T"が存在して"T" = "T" が成立することである。
有界作用素に対してよく知られているいくつかの性質は、稠密に定義された閉作用素に対して一般化される。閉作用素の核は閉である。さらに、稠密に定義された閉作用素 "T" : "H" → "H" の核は、その共役の値域の直交補空間と一致する。すなわち、
が成立する。
によれば、"T""T" および "TT" は自己共役であり、"I" + "T""T" と "I" + "TT" はともに有界な逆を持つことが分かる。もし formula_19 の核が自明であるなら、formula_16 の値域は稠密となる。さらに、"T" が全射であるための必要十分条件は、
と書ける。
を満たす formula_22 が存在することである（これは本質的にはいわゆる閉値域の定理である）。
特に、"T" の値域が閉であることと、"T" の値域が閉であることは必要十分である。
有界の場合と対照的に、必ずしも ("TS") = "S""T" は成立しない。実際、("TS") が存在しないことさえあり得る。しかし、例えば "T" が有界であればその式は成り立つ。
稠密に定義された閉作用素 "T" は、次の同値な条件のいずれかを満たすとき、正規であると言われる:
すべての自己共役作用素は正規である。
"T" : "B" → "B" を、バナッハ空間の間の作用素とする。このとき、"T" の転置（あるいは、双対）formula_25 とは
がすべての "x" ∈ B および "y" ∈ B に対して成り立つような作用素のことを言う。ここで、記法 formula_27 を用いた。
"T" の転置が存在するための必要十分条件は、"T" が稠密に定義されていることである（本質的には、上述の共役に対するものと同様の理由である）。
"H" をヒルベルト空間、"y" ∈ "H"とするとき、formula_28 とおく。このとき、formula_29 によって与えられる反線型の同型formula_30を考える。この同型を用いて、転置 "T" は共役 "T" と、次のように関係付けられる:
ここで formula_32 である（有限次元の場合、これは行列の随伴が共役転置であることと対応する）。この等式は転置によって共役の定義を与えていることに注意されたい。
稠密に定義された作用素 "T" が、 その定義域のすべての元 "x" と "y" に対してformula_33 を満たすとき、"T" は対称であるという。つまり、稠密に定義された作用素で "T" が "T" の拡張（次節を参照）になっているようなものが対称作用素である。ある作用素 "T" が対称であるための必要十分条件は、付随する二次形式が実であること、すなわち、数 formula_34 が、"T" の定義域内のすべての "x" に対して実となることである。
さらに"T" = "T" が成り立つとき、作用素 "T" は自己共役であると言われる。共役作用素は必ず閉なので、自己共役な作用素は特に閉となる。稠密に定義された閉の対称作用素 "T" が自己共役であるための必要十分条件は、"T" が対称になることである。対称作用素の中には自己共役でないものもある。
"J"を上で用いた写像 formula_35 とする。稠密に定義された作用素 "T" に対して、そのグラフΓ("T") が "J"(Γ("T")) と直交するなら、"T" は対称作用素になる。さらに、 formula_36 が Γ("T") と "J"(Γ("T")) の内部直和になっているなら、"T" は自己共役である。
作用素 "T" が稠密に定義された閉対称作用素で、さらに "T" の定義域上で定義された作用素 "T" – "i", および "T" + "i" が両方とも全空間 "H" への全射であれば、"T" は自己共役になる 。つまり、"H" 内のすべての "x" に対して、"T" の定義域に含まれるような "y" と "z" で "T y" – "iy" = "x" および "Tz" + "iz" = "x". を満たすようなものが存在する、ということを意味する。
上記の方法は稠密に定義されていない閉作用素には適用できない。稠密に定義されていない作用素の対称性は、、共役作用素ではなく直接あるいはグラフを通じて定義される。
対称作用素の研究はしばしばその有界変換であるを通じて行われる。
稠密に定義された作用素 "T" は、もしその二次形式が非負であるなら、すなわち formula_37 が "T" の定義域内のすべての "x" に対して成立するなら、正あるいは非負と呼ばれる。そのような作用素は、必ず対称である。
稠密に定義されたすべての閉作用素 "T" に対して、作用素 "T""T" は、自己共役かつ正である。
スペクトル定理は、自己共役作用素や正規作用素へと適用されるが、一般的に、稠密に定義された作用素や閉作用素へは適用されない。なぜならば、それらはスペクトルが空となる場合があるからである。
至る所で定義された対称作用素は閉で、したがって有界である。これはとして知られる。
作用素 "T" が作用素 "S" の拡張であるとは、Γ ("S") ⊆ Γ ("T")が成立することを言う。同値な定義として、"S" の定義域内のすべての "x" は "T" の定義域に属し、"Sx" = "Tx" が成立する、ということが挙げられる。
すべての作用素に対して、至る所で定義された拡張が存在することに注意されたい。これは、代数的なベクトル空間としての基底の存在により説明され、選択公理に基づく純粋代数的な事実である。もし与えられた作用素が有界でないなら、その拡張は不連続線型写像となる。これは、与えられた作用素の重要な性質を保つことはなく（下記を参照）、一般的に一意ではないため、あまり有用性が無い。
作用素 "T" は、次の同値な条件のいずれかを満たすとき、可閉と呼ばれる:
すべての作用素が可閉という訳ではない。
可閉な作用素 "T" は、最小の閉拡張 formula_38 を持ち、それは "T" の閉包と呼ばれる。"T" のグラフの閉包は、formula_38 のグラフに等しい。他の、最小ではない閉拡張も存在することがある。
稠密に定義された作用素 "T" が可閉であるための必要十分条件は、"T" が稠密に定義されていることである。この場合、formula_40 および formula_41 が成り立つ。すべての対称作用素は、可閉である。
もし "S" が稠密に定義されており、"T" が "S" の拡張であるなら、"S" は "T" の拡張となる。
対称作用素は、それ自身を除いてもし対称な拡張が存在しないのなら、最大対称と呼ばれる。すべての自己共役作用素は、最大対称であるが、その逆は成立しない。
閉包が自己共役であるような作用素は、本質的自己共役と呼ばれる。ある作用素が本質的自己共役であるための必要十分条件は、それがただ一つの自己共役な拡張を持つことである。作用素には一つよりも多くの自己共役な拡張が存在する可能性があり、連続濃度の相異なる自己共役拡張が存在することさえある。稠密に定義された対称作用素 "T" が本質的自己共役であるための必要十分条件は、作用素 "T" – "i", および "T" + "i" が両方とも稠密な値域を持つことである。
"T" を稠密に定義された作用素とする。「"T" が "S"" の拡張である」という関係を "S" ⊂ "T" と表す（ Γ("S") ⊆ Γ("T") に対してよく用いられる省略記号である）。次が成立する。
自己共役作用素の類は、数理物理学の分野において本質的に重要となる。すべての自己共役作用素は稠密に定義され、閉かつ対称である。その逆は、有界作用素に対しては成立するが、一般には成立しない。自己共役性は実質、それら三つの性質よりも制限の強いものなのである。自己共役作用素に対しては、有名なスペクトル定理が成り立つ。この定理とを組み合わせることにより、自己共役作用素は、強連続1パラメータユニタリ群の無限小生成素であるということが示される（自己共役作用素を参照されたい）。そのようなユニタリ群は、古典力学や量子力学の分野における時間発展を表現する上で、特に重要となる。