ジュリア集合

複素力学系におけるジュリア集合（ジュリアしゅうごう、）は、ある複素函数の反復合成の族が正規でない点を集めた、複素平面またはリーマン球面上の集合である。函数が多項式函数のときは、反復合成で無限遠に行かない出発点の集まりである充填ジュリア集合に対し、ジュリア集合を充填ジュリア集合の境界と定義することもある。名称は、20世紀初頭に複素函数の反復を研究したガストン・ジュリアに因む。たいていのジュリア集合はフラクタルとなり、神秘的や美しいとも評されるような図形が得られる。

ジュリア集合の補集合がファトゥ集合で、複素平面はジュリア集合とファトゥ集合に二分される。ジュリア集合上で点を反復合成したときの振る舞いはカオスである。複素数の定数を持つ2次函数を考え、このジュリア集合が連結であるような定数の集まりは、マンデルブロ集合として知られる。

定義

正規族によるもの

 を複素平面、 をリーマン球面とする。標準的には、ジュリア集合は正規族の概念で定義される。一般に、領域 または で定義された有理型函数から成る族 が正規族であるとは、 から任意に選んだ函数列が 上で広義一様収束する部分列を含むことをいう。

正規族の概念は同程度連続性に結び付く。アスコリ・アルツェラの定理より、一般に、有理型函数族 が 上で正規族であることは、 が 上の各点で同程度連続であることと同値となっている。同程度連続性により、複素力学系の漸近的な振る舞いを特徴付けできる。

まず、正規族でファトゥ集合（）を定義する。 を正則函数 （または ）とする。ある点 に の 回反復合成を行って得られる値を で表すとする。点 のある近傍 上で、族 が正規族となるとき、このような点全体の集合をファトゥ集合と呼ぶ。 のファトゥ集合は や などと表される。

ジュリア集合は、ファトゥ集合の補集合として定義される。函数 のジュリア集合は や などと表す。すなわち、

 または 

としてジュリア集合が定まる。ジュリア集合の名称は、20世紀初頭に複素有理函数の反復を研究したガストン・ジュリアに因む。

一般に、1つの点 に の反復合成を適用したときに定まる

という点列を の前方軌道（または単に軌道）という。 は初期値などと呼ばれる。反復合成から成る函数族が同程度連続であるとは、初期値 が近い場合は函数の値も一様に近いということを意味し、初期値の安定性を表す。正規族はある初期値の軌道が安定しているか否かを表現可能にする道具であり、これによって軌道が安定な部分と不安定な部分に函数の定義域を分割する。言い換えると、ファトゥ集合 は がある意味でおとなしいような の集まりであり、ジュリア集合は がある意味でカオス的な の集まりである。

正規族の概念を使ったジュリア集合の定義は抽象的で幾何学的意味が分かりづらいが、正規族にもとづくことで複素函数論の技術的道具が使いやすくなり、有理函数や有理型函数などの広い範囲の複素函数まで理論を展開できる。他方、反復する複素函数を多項式に限る議論などでは、次のように正規族の概念を使わずにジュリア集合を定義することもある。

充填ジュリア集合によるもの

 を2次以上の複素多項式 とする。係数 も複素数である。まず、複素平面 からそれ自身への多項式函数 の充填ジュリア集合（）を で表し、

と定義する。つまり、軌道が無限遠へ行かないような点の集まりが充填ジュリア集合である。

ジュリア集合は、充填ジュリア集合の境界として定義される。すなわち、 のジュリア集合を と表せば

である。この定義のジュリア集合は、軌道が無限遠へ行かないような点の集まりと軌道が無限遠へ行く点の集まりの境目になる。扱う函数が多項式のときは、この定義のジュリア集合と、上記の正規族を使った定義のジュリア集合とは同値である。

最も簡単な例

ジュリア集合の最も簡単な例として という複素函数が挙げられる。 これは与えられた を2乗するだけの函数で、図形的には複素平面上で の絶対値を2乗し、 の偏角を2倍にする。複素数を極形式で表すと であるから、この場合の の 回反復は

と表すことができる。よって、 ならば、 のとき であり、 ならば、 のとき である。例えば、絶対値 である を初期値にして反復を繰り返すと

⋮
となって値は へ近づく。他方、絶対値 である を初期値にして反復を繰り返すと

⋮
となって値は原点 へ近づく。

他方で、 すなわち が単位円 上の点であるときは、 であるから の像もまた単位円上の点となる。よって、 ならば、すべての について は単位円上に留まる。

以上より、 の充填ジュリア集合 は単位円板 で、ジュリア集合 はその境界の単位円 である。また、ファトゥ集合 は単位円以外の箇所全て である。

基本的性質
定義よりファトゥ集合は開集合なので、ジュリア集合は閉集合である。以下、断りない限り函数 を超越整函数または2次以上の有理函数とする。これらの函数においては、ジュリア集合 は空集合ではない。すなわち必ず存在する。また、 は完全集合である。すなわち は孤立点を含まない。例えば、もし が のような1次函数だと、ジュリア集合が存在しないこともあり、存在しても完全集合ではない。

 が または と一致しなければ、 は内点を持たない。言い換えると が内点を含むときは または である。もし が多項式函数のときは、 は常に内点を持たない。また、ジュリア集合 は充填ジュリア集合の境界だが、充填ジュリア集合が内点を含まないこともあり得る。その場合はジュリア集合と充填ジュリア集合が一致する。

 が多項式函数であれば、 は 内のコンパクト集合である。 が超越整函数のときは、 は 内の非有界集合になる。

集合上または近傍の点の挙動
ジュリア集合は完全不変な集合となっている。すなわち かつ が成り立つ。もし が有理函数であれば、 が成り立つ。 におけるジュリア集合のある点 の近傍を とする。モンテルの定理より、任意の に対して集合

は2点以下であることが分かる。 に属する点は例外点と呼ばれ、例えば 上で考える多項式では が例外点である。同様にモンテルの定理から、3点以上を含んでなおかつ に関して完全不変な閉集合の中で最小の集合が、ジュリア集合である。

ある初期値 の後方軌道は、一般に の逆写像が多価函数となるため逆像に属する点全てを集めて、

と定義される。初期値 がジュリア集合に属し、 が例外点でなければ、

が成り立つ。しかし、ある点がジュリア集合に属するかを判別することは一般的に困難である。一方、 が周期点（または不動点）であれば次のようなことが分かる。 を 周期点とする。このとき、

で定義される が

 であるとき、 を反発周期点と呼ぶ。
 であるとき、 を吸引周期点と呼ぶ。
 であり、かつ を充たす自然数 が存在するとき、 を有理的中立周期点と呼ぶ。

もし が反発周期点または有理的中立周期点であれば、 はジュリア集合に含まれる。一方、吸引周期点はファトゥ集合に含まれ、ジュリア集合には含まれない。

反発周期点については、さらに強いことが言える。 を超越整函数または2次以上の有理函数とする。このとき、 の反発周期点全体から成る集合は において稠密である。非標準ながら が多項式函数のときには、 の反発周期点全体の閉包をジュリア集合と定義する例もある。

吸引周期点が存在する場合は、その吸引域の境界にジュリア集合は一致する。 を有理函数とする。 が吸引周期点であるとき、この吸引域を と表す。このとき、

である。無限遠点が吸引不動点である場合も、 として成り立つ。

さらには、ジュリア集合 上の点は によってカオス的に振る舞うことも分かる。リーマン球面上の部分集合 から への連続写像 が、周期点の稠密性、位相的推移性、初期値鋭敏性を持つとき、 は 上で（デバニーの意味で）カオス的であるという。 周期点の稠密性とは、 の周期点が 上に稠密に存在することだが、上記のように の反発周期点全体から成る集合が において稠密であることが分かっているので、周期点の稠密性も成り立つ。位相的推移性とは、空ではない任意の部分開集合 に対し、 を満たす が存在することで。初期値鋭敏性とは、ある が存在し、任意の と近傍 において を満たす と が存在することである。

 を2次以上の有理函数とすると、 常に は 上で（デバニーの意味で）カオス的である。言い換えれば、 のカオス的振る舞いを起こす集合が のジュリア集合ともいえる。

取り得る図形
#最も簡単な例のジュリア集合は単純なものだったが、通常、ジュリア集合は幾何的にもっとはるかに複雑な集合となる。たいていの場合で、ジュリア集合はフラクタルと呼ばれる図形になる。そのフラクタル図形は「神秘的」や「美しい」と評される。ジュリア集合の図形には以下のような例がある。

円周。 の場合の などがこれに該当する。
線分。多項式函数 がチェビシェフ多項式に共役な場合の がこれに該当し、 に対する は という実軸上の線分である。
擬円（）。ここで が擬円とは、 が擬等角写像による円周の像として得られることである。後述の#2次函数の例で示すように、 で がマンデルブロ集合の大きなハート形領域内部のときの などがこれに該当し、 がその一例である。
カントール集合（）。ここで がカントール集合であるとは、 がコンパクト、全不連結、孤立点を持たない場合をいう。全不連結なジュリア集合はファトゥ塵（）などとも呼ばれる。後述の#2次函数の例で示すように、 で がマンデルブロ集合の外にあるときの などがこれに該当し、 がその一例である。
互いに接する無限個の単純閉曲線の閉包。後述の#2次函数の例で示すように、 が吸引周期点を持つときの などがこれに該当し、 がその一例である。
樹形突起（デンドライト、）。ここで が樹形突起であるとは、 がコンパクト、連結かつ局所連結で内点を持たず、さらに が連結であることをいう。 に対する などがその一例である。
シェルピンスキーのカーペット（）。ここで がシェルピンスキーのカーペットであるとは、 が連結、局所連結、疎で、 の補集合の各連結成分の境界が互いに素な単純閉曲線であることをいう。有理関数 に対する などがその一例である。
カントールの花束（）。ここで がカントールの花束であるとは、 が、 で となる 級曲線 の非可算個の和集合であることをいう。指数関数 に対する などがその一例である。
複素平面 全体。指数関数 に対する などがその一例である。

2次函数の例

定数 を持つ2次函数

は簡単な多項式の族だが、とても複雑なジュリア集合を生み出す。#最も簡単な例のように ではジュリア集合は単位円だったが、 に ではない値、例えば 、を与えると、ジュリア集合はもはや滑らかなではなくなり、一部を拡大し続けてもずっとギザギザなフラクタル図形となる。このジュリア集合 は の値に依存して著しく変化し、は、現れる の見た目を「広がった雲のようなもの」「骨と皮ばかりの荊の枝」「花火が上がったあと空中に漂う残り火」「ウサギの形をしたもの」「タツノオトシゴの尻尾をもつもの」と形容している。

 は一見狭い範囲の形に限定しているようだが、 は任意の2次函数と共役の関係にある。そのため、 のジュリア集合は任意の2次函数のジュリア集合と幾何学的に相似であり、 のジュリア集合を調べれば2次函数全体のジュリア集合の性質を知ることができる。また、 は、複素力学系で重要な役割を果たす臨界点（ を充たす ）が原点 にあるため扱いやすい利点も持つ。

大きく分けると は連結集合またはカントール集合のいずれかになる。臨界点 から出発する前方軌道 が有界であれば、言い換えれば のとき であれば、 は連結集合である。 から出発する軌道が無限遠点に逃げ出す場合、すなわち のとき であれば、 はカントール集合である。これらと対応し、ジュリア集合の全体像を与えるのが の定数 の集まりから定義されるマンデルブロ集合 で、 が 上にあれば は連結で、 が から外れると は全不連結となる。

まず、原点 を出発する軌道が有界の場合で、不動点に吸引される場合を考える。 のときは、上述のように は単位円で、原点 0 が吸引的不動点である。 のときは、 が小さければ原点近くに吸引的不動点が存在し、 も単純閉曲線だが、曲線はフラクタルとなる。言い換えると、 での原点 を出発する軌道が不動点に吸引されるとき、 は微分不可能な単純閉曲線である。これらのジュリア集合はマンデルブロ集合上では大きなハート形領域に対応する。このハート形の領域は、カージオイド で与えられる。この領域内部にある では、 は吸引的不動点を持ち、 は単純閉曲線である。

次に、原点 を出発する軌道が有界の場合で、周期点に吸引される場合を考える。このときの も連結だが、複雑な集合となる。この場合の は無限個の単純閉曲線を含み得るようになり、さらに、それら単純閉曲線は互いに接し合う。例えば、 を出発する軌道が 周期点に吸引される場合の は、 が を満たすときに存在する。これは、マンデルブロ集合上でハート形領域に左隣で接するもっとも大きな円の領域に相当する。周期 の場合は次数が増えて具体的な領域の計算は困難となるが、その場合も同様にマンデルブロ集合上に単位円板と同相な領域として存在している。

また、原点 を出発する軌道が、ある反復から先は周期軌道になる場合もある。すなわち、ある自然数 が存在し、 が満たされる。 このように、それ自体は周期点ではないが、ある反復から先は周期点になる点を前周期点などという。 が前周期点のとき、 は植物の枝のような見た目をした樹形突起（デンドライト）となる。このときの はミシュレヴィチ点と呼ばれ、マンデルブロ集合の境界、糸状の部分に存在する。

そして、原点 を出発する軌道が無限遠点 に吸引される場合、すなわち がマンデルブロ集合 から外れた値のとき、 はカントール集合（ファトゥ塵）となる。カントール集合となった は塵や雲のような見た目の点の集まりだが、 が から離れるほど はよりまばらな塵になっていく。具体的な の範囲としては のとき、 のとき で、 はカントール集合であることが分かる。言い換えると は 内のコンパクト集合である。

コンピュータによる描写
ジュリア集合は、ガストン・ジュリアとピエール・ファトゥによって第一次世界大戦中に研究されていたが、当時はそれを描写できるコンピュータグラフィックスが無かったこともあり、研究が広がりを見せることはなかった。その後、強力な計算機が使えるようになってジュリア集合やマンデルブロ集合の形が見えてくるようになると、その複雑な形の構造を解明することに数学者らの目を向けさせ、複素力学系の研究が再興した。

ジュリア集合の描写には、ジュリア集合の性質を利用して以下のような2種類の方法がある。ただし、どちらの方法でもうまく描写できないこともある。満足のいく描写を得ることが困難なジュリア集合も数多い。描写のプログラムには、対象の複素力学系の性質に応じた工夫も必要となる。

ジュリア集合を描写する1つ目の方法は、例外点を除く点を初期値とし、その後方軌道を計算する手法がある。初期点は、実質的にはほとんど勝手に選んでよい。この後方軌道はジュリア集合に近づいていくので、初めの数回の反復を除いて後方軌道はジュリア集合と区別がつかないような点を通る。この手法は、上記の

というジュリア集合の性質を、または、ジュリア集合は反発的周期点を稠密に含むという性質を利用したものである。2次函数 であれば、初期値 に対して逆像は または なので、この2つからランダムに選び、また逆像を計算し…という繰り返しで得た点を描写することでジュリア集合が描写できる。

あるいは、反発周期点のようなジュリア集合上の点を初期値として選び、その後方軌道を計算してもよい。これは、上記の

というジュリア集合の性質を利用したものである。

ただし、ジュリア集合上の後方軌道は分布が一般的に偏っているため、これらの方法では、反復回数を非常に多くしたとしても描写は本来のジュリア集合が部分的に欠けたものとなってしまう欠点がある。対策としては、複素平面上に小さなメッシュを考え、あるメッシュに入った軌道の点が一定数以上になったら、そのメッシュ内の点は逆像の計算に使わないというものがある。これにより、得られる点の分布を一様にし、計算量も減る。

ジュリア集合を描写する2つ目の方法は、ジュリア集合が

というように吸引域の境界となることを利用する方法である。 複素函数が2つ以上の吸引的不動点を持つとき、ジュリア集合はそれぞれの吸引域の境界となる。よって、複素平面上に小さな四角形格子を考えたとき、四隅の点が同一の点に吸収されれば格子はジュリア集合を含まず、四隅の点が異なる点に吸収されれば格子はジュリア集合を含んでいることが分かる。このように複素平面の候補となる範囲を格子状に分けて、上記の判定に基づいて各格子を色分けるすることでジュリア集合が描写できる。