ジュリア集合

複素力学系におけるジュリア集合（ジュリアしゅうごう、英:Julia set）は、ある複素函数の反復合成の族が正規でない点を集めた、複素平面またはリーマン球面上の集合である。函数が多項式函数のときは、反復合成で無限遠に行かない出発点の集まりである充填ジュリア集合に対し、ジュリア集合を充填ジュリア集合の境界と定義することもある。名称は、20世紀初頭に複素函数の反復を研究したガストン・ジュリアに因む。たいていのジュリア集合はフラクタルとなり、神秘的や美しいとも評されるような図形が得られる。
ジュリア集合の補集合がファトゥ集合で、複素平面はジュリア集合とファトゥ集合に二分される。ジュリア集合上で点を反復合成したときの振る舞いはカオスである。複素数の定数を持つ2次函数を考え、このジュリア集合が連結であるような定数の集まりは、マンデルブロ集合として知られる。
Cを複素平面、ˆC=C∪ ∞をリーマン球面とする。標準的には、ジュリア集合は正規族の概念で定義される。一般に、領域D⊂ˆCまたはD⊂Cで定義された有理型函数から成る族Fが正規族であるとは、Fから任意に選んだ函数列がD上で広義一様収束する部分列を含むことをいう。
正規族の概念は同程度連続性に結び付く。アスコリ・アルツェラの定理より、一般に、有理型函数族F:D→ˆCがD上で正規族であることは、FがD上の各点で同程度連続であることと同値となっている。同程度連続性により、複素力学系の漸近的な振る舞いを特徴付けできる。
まず、正規族でファトゥ集合（英:Fatou set）を定義する。fを正則函数f:ˆC→ˆC（またはf:C→C）とする。ある点z∈ˆCにfのn回反復合成を行って得られる値をf(z)で表すとする。点z∈ˆCのある近傍U(z) ⊂ˆC上で、族{f|U}∞n=1が正規族となるとき、このような点全体の集合をファトゥ集合と呼ぶ。fのファトゥ集合はFfやF(f)などと表される。
ジュリア集合は、ファトゥ集合の補集合として定義される。函数fのジュリア集合はJfやJ(f)などと表す。すなわち、
としてジュリア集合が定まる。ジュリア集合の名称は、20世紀初頭に複素有理函数の反復を研究したガストン・ジュリアに因む。
一般に、1つの点z0にfの反復合成を適用したときに定まる
という点列をz0の前方軌道（または単に軌道）という。z0は初期値などと呼ばれる。反復合成から成る函数族が同程度連続であるとは、初期値z0が近い場合は函数の値も一様に近いということを意味し、初期値の安定性を表す。正規族はある初期値の軌道が安定しているか否かを表現可能にする道具であり、これによって軌道が安定な部分と不安定な部分に函数の定義域を分割する。言い換えると、ファトゥ集合 はO(z0)がある意味でおとなしいようなz0の集まりであり、ジュリア集合はO(z0)がある意味でカオス的なz0の集まりである。
正規族の概念を使ったジュリア集合の定義は抽象的で幾何学的意味が分かりづらいが、正規族にもとづくことで複素函数論の技術的道具が使いやすくなり、有理函数や有理型函数などの広い範囲の複素函数まで理論を展開できる。他方、反復する複素函数を多項式に限る議論などでは、次のように正規族の概念を使わずにジュリア集合を定義することもある。
Pを2次以上の複素多項式P(z) =anz+an−1z+ … +a0とする。係数an,an−1…a0も複素数である。まず、複素平面Cからそれ自身への多項式函数P:C→Cの充填ジュリア集合（英:filled Julia set）をKPで表し、
と定義する。つまり、軌道が無限遠へ行かないような点の集まりが充填ジュリア集合である。
ジュリア集合は、充填ジュリア集合の境界として定義される。すなわち、Pのジュリア集合をJPと表せば
である。この定義のジュリア集合は、軌道が無限遠へ行かないような点の集まりと軌道が無限遠へ行く点の集まりの境目になる。扱う函数が多項式のときは、この定義のジュリア集合と、上記の正規族を使った定義のジュリア集合とは同値である。
ジュリア集合の最も簡単な例としてP(z) =zという複素函数が挙げられる。 これは与えられたzを2乗するだけの函数で、図形的には複素平面上でzの絶対値を2乗し、zの偏角を2倍にする。複素数を極形式で表すとz= |z|eであるから、この場合のPのk回反復は
と表すことができる。よって、|z| < 1ならば、k→ ∞のときP(z) → 0であり、|z| > 1ならば、k→ ∞のときP(z) → ∞である。例えば、絶対値2.236…であるz= 1 + 2iを初期値にして反復を繰り返すと
となって値は∞へ近づく。他方、絶対値0.583…であるz= 0.5 + 0.3iを初期値にして反復を繰り返すと
となって値は原点0 = 0 + 0iへ近づく。
他方で、|z| = 1すなわちzが単位円{z∈C|  |z| = 1}上の点であるときは、|P(z)| = 1であるからPの像もまた単位円上の点となる。よって、|z| = 1ならば、すべてのkについてP(z)は単位円上に留まる。
以上より、P(z) =zの充填ジュリア集合KPは単位円板{|z| ≤ 1}で、ジュリア集合JPはその境界の単位円{|z| = 1}である。また、ファトゥ集合FPは単位円以外の箇所全て{|z| < 1} ∪ {|z| > 1}である。
定義よりファトゥ集合は開集合なので、ジュリア集合は閉集合である。以下、断りない限り函数fを超越整函数または2次以上の有理函数とする。これらの函数においては、ジュリア集合Jfは空集合ではない。すなわち必ず存在する。また、Jfは完全集合である。すなわちJfは孤立点を含まない。例えば、もしfがf(z) =az+bのような1次函数だと、ジュリア集合が存在しないこともあり、存在しても完全集合ではない。
JfがCまたはˆCと一致しなければ、Jfは内点を持たない。言い換えるとJfが内点を含むときはJf=CまたはJf=ˆCである。もしfが多項式函数のときは、Jfは常に内点を持たない。また、ジュリア集合 は充填ジュリア集合の境界だが、充填ジュリア集合が内点を含まないこともあり得る。その場合はジュリア集合と充填ジュリア集合が一致する。
fが多項式函数であれば、JfはC内のコンパクト集合である。fが超越整函数のときは、JfはC内の非有界集合になる。
ジュリア集合は完全不変な集合となっている。すなわちf(J) ⊂Jかつf(J) = {z|f(z) ∈J} =Jが成り立つ。もしfが有理函数であれば、f(J) =f(J) =Jが成り立つ。f:ˆC→ˆCにおけるジュリア集合のある点z∈J(f)の近傍をUとする。モンテルの定理より、任意のz,Uに対して集合
は2点以下であることが分かる。EUに属する点は例外点と呼ばれ、例えばˆC上で考える多項式では∞が例外点である。同様にモンテルの定理から、3点以上を含んでなおかつfに関して完全不変な閉集合の中で最小の集合が、ジュリア集合である。
ある初期値z0の後方軌道は、一般にfの逆写像が多価函数となるため逆像に属する点全てを集めて、
と定義される。初期値z0がジュリア集合に属し、z0が例外点でなければ、
が成り立つ。しかし、ある点がジュリア集合に属するかを判別することは一般的に困難である。一方、zが周期点（または不動点）であれば次のようなことが分かる。z0をn周期点とする。このとき、
で定義されるλが
もしz0が反発周期点または有理的中立周期点であれば、zはジュリア集合に含まれる。一方、吸引周期点はファトゥ集合に含まれ、ジュリア集合には含まれない。
反発周期点については、さらに強いことが言える。fを超越整函数または2次以上の有理函数とする。このとき、fの反発周期点全体から成る集合はJfにおいて稠密である。非標準ながらfが多項式函数のときには、fの反発周期点全体の閉包をジュリア集合と定義する例もある。
吸引周期点が存在する場合は、その吸引域の境界にジュリア集合は一致する。fを有理函数とする。z0が吸引周期点であるとき、この吸引域をA(z0)と表す。このとき、
である。無限遠点が吸引不動点である場合も、Jf= ∂A(∞)として成り立つ。
さらには、ジュリア集合Jf上の点はfによってカオス的に振る舞うことも分かる。リーマン球面上の部分集合EからEへの連続写像fが、周期点の稠密性、位相的推移性、初期値鋭敏性を持つとき、fはE上で（デバニーの意味で）カオス的であるという。 周期点の稠密性とは、fの周期点がE上に稠密に存在することだが、上記のようにfの反発周期点全体から成る集合がJfにおいて稠密であることが分かっているので、周期点の稠密性も成り立つ。位相的推移性とは、空ではない任意の部分開集合U,V⊂Eに対し、f(U) ∩V≠ ∅を満たすk> 0が存在することで。初期値鋭敏性とは、あるδ> 0が存在し、任意のz∈Eと近傍N(z) ⊂Eにおいて|f(z) −f(w)| >δを満たすw∈Nとk> 0が存在することである。
fを2次以上の有理函数とすると、 常にfはJf上で（デバニーの意味で）カオス的である。言い換えれば、fのカオス的振る舞いを起こす集合がfのジュリア集合ともいえる。
#最も簡単な例のジュリア集合は単純なものだったが、通常、ジュリア集合は幾何的にもっとはるかに複雑な集合となる。たいていの場合で、ジュリア集合はフラクタルと呼ばれる図形になる。そのフラクタル図形は「神秘的」や「美しい」と評される。ジュリア集合の図形には以下のような例がある。
定数c∈Cを持つ2次函数
は簡単な多項式の族だが、とても複雑なジュリア集合を生み出す。#最も簡単な例のようにc= 0ではジュリア集合は単位円だったが、cに0ではない値、例えばc= −0.12375 + 0.56508i、を与えると、ジュリア集合はもはや滑らかなではなくなり、一部を拡大し続けてもずっとギザギザなフラクタル図形となる。このジュリア集合JPはcの値に依存して著しく変化し、アドリアン・ドゥアディ（フランス語版）は、現れるJfの見た目を「広がった雲のようなもの」「骨と皮ばかりの荊の枝」「花火が上がったあと空中に漂う残り火」「ウサギの形をしたもの」「タツノオトシゴの尻尾をもつもの」と形容している。
Pc=z+cは一見狭い範囲の形に限定しているようだが、Pcは任意の2次函数と共役の関係にある。そのため、Pcのジュリア集合は任意の2次函数のジュリア集合と幾何学的に相似であり、fcのジュリア集合を調べれば2次函数全体のジュリア集合の性質を知ることができる。また、Pcは、複素力学系で重要な役割を果たす臨界点（dP/dz(z0) = 0を充たすz0）が原点0 = 0 + 0iにあるため扱いやすい利点も持つ。
大きく分けるとJPは連結集合またはカントール集合のいずれかになる。臨界点0から出発する前方軌道{P(0)}k≥ 1が有界であれば、言い換えればk→ ∞のときP(0) ↛ ∞であれば、JPは連結集合である。0から出発する軌道が無限遠点に逃げ出す場合、すなわちk→ ∞のときP(0) → ∞であれば、JPはカントール集合である。これらと対応し、ジュリア集合の全体像を与えるのがPcの定数cの集まりから定義されるマンデルブロ集合MP⊂Cで、cがMP上にあればJPは連結で、cがMPから外れるとJPは全不連結となる。
まず、原点0を出発する軌道が有界の場合で、不動点に吸引される場合を考える。c= 0のときは、上述のようにJPは単位円で、原点 0 が吸引的不動点である。c≠ 0のときは、cが小さければ原点近くに吸引的不動点が存在し、JPも単純閉曲線だが、曲線はフラクタルとなる。言い換えると、c≠ 0での原点0を出発する軌道が不動点に吸引されるとき、JPは微分不可能な単純閉曲線である。これらのジュリア集合はマンデルブロ集合上では大きなハート形領域に対応する。このハート形の領域は、カージオイドc=1/2e−1/4eで与えられる。この領域内部にあるcでは、Pcは吸引的不動点を持ち、JPは単純閉曲線である。
次に、原点0を出発する軌道が有界の場合で、周期点に吸引される場合を考える。このときのJPも連結だが、複雑な集合となる。この場合のJPは無限個の単純閉曲線を含み得るようになり、さらに、それら単純閉曲線は互いに接し合う。例えば、0を出発する軌道が2周期点に吸引される場合のJPは、cが|c+1| <1/4を満たすときに存在する。これは、マンデルブロ集合上でハート形領域に左隣で接するもっとも大きな円の領域に相当する。周期k> 2の場合は次数が増えて具体的な領域の計算は困難となるが、その場合も同様にマンデルブロ集合上に単位円板と同相な領域として存在している。
また、原点0を出発する軌道が、ある反復から先は周期軌道になる場合もある。すなわち、ある自然数m,nが存在し、Pc(0) =Pc(0)が満たされる。 このように、それ自体は周期点ではないが、ある反復から先は周期点になる点を前周期点などという。0が前周期点のとき、JPは植物の枝のような見た目をした樹形突起（デンドライト）となる。このときのcはミシュレヴィチ点と呼ばれ、マンデルブロ集合の境界、糸状の部分に存在する。
そして、原点0を出発する軌道が無限遠点∞に吸引される場合、すなわちcがマンデルブロ集合MPから外れた値のとき、JPはカントール集合（ファトゥ塵）となる。カントール集合となったJPは塵や雲のような見た目の点の集まりだが、cがMPから離れるほどJPはよりまばらな塵になっていく。具体的なcの範囲としては|c| > 2のとき、k→ ∞のときP(0) → ∞で、JPはカントール集合であることが分かる。言い換えるとMPは{|c| ≤ 2}内のコンパクト集合である。
ジュリア集合は、ガストン・ジュリアとピエール・ファトゥによって第一次世界大戦中に研究されていたが、当時はそれを描写できるコンピュータグラフィックスが無かったこともあり、研究が広がりを見せることはなかった。その後、強力な計算機が使えるようになってジュリア集合やマンデルブロ集合の形が見えてくるようになると、その複雑な形の構造を解明することに数学者らの目を向けさせ、複素力学系の研究が再興した。
ジュリア集合の描写には、ジュリア集合の性質を利用して以下のような2種類の方法がある。ただし、どちらの方法でもうまく描写できないこともある。満足のいく描写を得ることが困難なジュリア集合も数多い。描写のプログラムには、対象の複素力学系の性質に応じた工夫も必要となる。
ジュリア集合を描写する1つ目の方法は、例外点を除く点を初期値とし、その後方軌道を計算する手法がある。初期点は、実質的にはほとんど勝手に選んでよい。この後方軌道はジュリア集合に近づいていくので、初めの数回の反復を除いて後方軌道はジュリア集合と区別がつかないような点を通る。この手法は、上記の
というジュリア集合の性質を、または、ジュリア集合は反発的周期点を稠密に含むという性質を利用したものである。2次函数P(z) =z+cであれば、初期値z0に対して逆像は√z0−cまたは−√z0−cなので、この2つからランダムに選び、また逆像を計算し…という繰り返しで得た点を描写することでジュリア集合が描写できる。
あるいは、反発周期点のようなジュリア集合上の点を初期値として選び、その後方軌道を計算してもよい。これは、上記の
というジュリア集合の性質を利用したものである。
ただし、ジュリア集合上の後方軌道は分布が一般的に偏っているため、これらの方法では、反復回数を非常に多くしたとしても描写は本来のジュリア集合が部分的に欠けたものとなってしまう欠点がある。対策としては、複素平面上に小さなメッシュを考え、あるメッシュに入った軌道の点が一定数以上になったら、そのメッシュ内の点は逆像の計算に使わないというものがある。これにより、得られる点の分布を一様にし、計算量も減る。
ジュリア集合を描写する2つ目の方法は、ジュリア集合が
というように吸引域の境界となることを利用する方法である。 複素函数が2つ以上の吸引的不動点を持つとき、ジュリア集合はそれぞれの吸引域の境界となる。よって、複素平面上に小さな四角形格子を考えたとき、四隅の点が同一の点に吸収されれば格子はジュリア集合を含まず、四隅の点が異なる点に吸収されれば格子はジュリア集合を含んでいることが分かる。このように複素平面の候補となる範囲を格子状に分けて、上記の判定に基づいて各格子を色分けるすることでジュリア集合が描写できる。