馬蹄形写像
例えば、H10は、h で右側へ、h で左側へ写ることを意味する。H00 と H01 は H0 の内に存在し、H10 と H11 は H1 の内に存在する。
以上のような具合に h の反復を続けると、k 回反復後に h(S) ∈ S である領域は、幅が λ、数が 2 本の縦長長方形となる。これらの領域に写る S 上の点の集合 H も、幅が λ、数が 2 本の横長長方形となる。よって、n → ∞ で、各 H の幅は 0 に収束し、H は長さ 1 の水平な線分の非可算無限個の集まりとなる。H は、その操作から、線分のカントール集合を形成する。この集合が、n → ∞ に関する不変集合 Λ+ である。
負の時間方向へ h を反復した場合も、同様の議論から、n → −∞ に関する不変集合 Λ− も線分のカントール集合を形成する。ただし、Λ− は垂直な線分の集まりである。過去にわたっても未来にわたっても S 上に存在しつづける不変集合は Λ+ と Λ− の積であるから、H と V が重なってできる無数の小さな正方形の中に不変集合が含まれることになる。Λ は、2つのカントール集合同士の直積集合となる。
馬蹄形写像を繰り返し適用すると、縦方向の幅はどんどん縮められながら、何重にも折りられ、積み重なった図形となる。馬蹄形写像でとくに注目するのが、写像の反復を延々と続けても元の正方形領域 S の内に留まり続ける領域である。一般に、ある写像 x ↦ f(x) に対して集合 A ∋ x が不変であるとは、任意の n ∈ Z について f(x) ∈ A を満たすことをいう。正方形内に存在する馬蹄形写像の不変集合とは、領域 Λ = { x ∈ S | 全ての整数 n について x ∈ h(x) } のことである。正の方向の反復と負の方向の反復に分けた方が便利なので、
Λ + = { x | h k ( x ) ∈ S , k = 0 , 1 , 2 , ⋯ } {\displaystyle \Lambda _{+}=\{x|h^{k}(x)\in S,k=0,1,2,\cdots \}}
Λ − = { x | h k ( x ) ∈ S , k = − 1 , − 2 , − 3 , ⋯ } {\displaystyle \Lambda _{-}=\{x|h^{k}(x)\in S,k=-1,-2,-3,\cdots \}}