ガトー微分
F ( x , y ) = { x 3 x 2 + y 2 if ( x , y ) ≠ ( 0 , 0 ) 0 if ( x , y ) = ( 0 , 0 ) {\displaystyle F(x,y)={\begin{cases}{\dfrac {x^{3}}{x^{2}+y^{2}}}&{\mbox{ if }}(x,y)\neq (0,0)\\0&{\text{ if }}(x,y)=(0,0)\end{cases}}}
で定めると、これは (0, 0) においてガトー微分可能で、その微分係数は
d F ( 0 , 0 ; a , b ) = { a 3 a 2 + b 2 ( a , b ) ≠ ( 0 , 0 ) 0 ( a , b ) = ( 0 , 0 ) {\displaystyle dF(0,0;a,b)={\begin{cases}{\dfrac {a^{3}}{a^{2}+b^{2}}}&(a,b)\neq (0,0)\\0&(a,b)=(0,0)\end{cases}}}
となり、しかしこれは引数 (a, b) に関して連続だが線型でない。無限次元の場合、X 上の任意の不連続線型汎函数がガトー微分可能となるが、その 0 におけるガトー微分係数は線型であり、かつ連続でない。
数学におけるガトー微分(ガトーびぶん、英: Gâteaux differential, Gâteaux derivative)は、第一次世界大戦において夭折したフランス人数学者ルネ・ガトー(英語版)に名を因む、微分学における方向微分の概念の一般化で、バナハ空間などの局所凸位相線型空間の間の函数に対して定義される。バナハ空間上のフレシェ微分同様に、ガトー微分は変分法や物理学で広く用いられる汎函数微分の定式化にしばしば用いられる。
他の微分法と異なり、ガトー微分は必ずしも線型でないが、ガトー微分の定義にそれが連続線型変換となることも仮定することがよくある。文献によっては、例えば Tikhomirov (2001) は(非線型かもしれない)ガトー微分係数 (Gâteaux differential) と(必ず線型である)ガトー導函数 (Gâteaux derivative) をはっきりと区別する。応用に際して、連続線型性がそれぞれの状況において自然に課されるもっと原始的な条件、例えば無限次元正則函数論(英語版)における複素可微分性や非線型解析学における連続的可微分性など、から従うということも多い。
F がフレシェ微分可能ならば、F はまたガトー微分可能であり、そのフレシェ導函数とガトー導函数とは一致する。逆が明らかに真でないことは、ガトー導函数が線型や連続でないことがあることから分かるが、実はガトー導函数が線型かつ連続である場合にも、フレシェ導函数が存在しないことがあり得る。
にも拘らず、複素バナハ空間 X から別のバナハ空間 Y への函数 F に対して、ガトー導函数は(ただし、定義における極限は複素変数 τ に関して取るものとすると)、自動的に線型になる(Zorn (1945) の定理)。さらに F が各点 u ∈ U において(複素)ガトー微分可能で、その導函数を DF(u): ψ ↦ dF(u; ψ) とすると、F は U 上でフレシェ微分可能であり、そのフレシェ導函数は DF になる (Zorn 1946)。このことは、古典的な複素解析において開集合上複素可微分な任意の函数が解析的となるという結果の類似対応物であり、無限次元正則函数論(英語版)の基本的な結果の一つである。
X と Y は局所凸位相線型空間とし、U ⊂ X は開集合、 F: X → Y とするとき、F の u ∈ U における ψ ∈ X 方向へのガトー微分係数 dF(u; ψ) は
( 1 ) d F ( u ; ψ ) = lim τ → 0 F ( u + τ ψ ) − F ( u ) τ = d d τ F ( u + τ ψ ) | τ = 0 {\displaystyle (1)\quad dF(u;\psi )=\lim _{\tau \to 0}{\frac {F(u+\tau \psi )-F(u)}{\tau }}=\left.{\frac {d}{d\tau }}F(u+\tau \psi )\right|_{\tau =0}}
として右辺の極限が存在する限りにおいて定める。この極限が任意の ψ ∈ X に対して存在するとき、F は u においてガトー微分可能 (Gâteaux differentiable) であると言う。
定義式 (1)に現れる極限の取り方は Y の位相と関係する。X および Y がともに実位相線型空間ならば、極限は実数 τ に関して取る。一方、X および Y が複素位相線型空間ならば上記は複素可微分性の定義におけると同様に複素数平面において τ → 0 とする極限を考えるのが普通である。また強収斂極限の代わりに弱収斂極限を取ることもあり、その場合弱ガトー微分の概念が導かれる。