ルベーグ積分と面積0の不思議な図形たち
新井仁之

1 はじめに本稿は，2001年12月23日と24日の二日間にわたって開催された第7回湘南数学セミナーでの講義の概要です．この講義では，「面積とは何であろうか」という中学生でも理解できる問いかけからはじめ，前半ではいわゆるジョルダン測度の定義を変形したものを紹介しました．この変形はルベーグ測度とジョルダンによる面積の定義の違いを浮き彫りにするために導入したもので，通常のジョルダン測度の定義と同値になっています．さらにルベーグ測度の考え方をできるだけ丁寧に説きました．講義の後半では，ハウスドルフ測度，面積0のフラクタル図形を動画を見せながら解説し，最後に掛谷間題に関連した動画・静止画を用いて，ベシコヴィッチ集合の構成ならびに実解析学の未解決問題について説明しました．

「面積とは何か」という初等的な問いかけから，実解析学の最先端の話題まで紹介するこの講義プランは，『数学のたのしみ11号』（日本評論社，1999年2月）に掲載された拙稿『測度』をもとにして立てたものです．なお講義では，聴衆が主として中学生，高校生であること，それから二日間という時間的な制約もあるため，定理の証明はほとんど述べませんでした．そのかわり，定理の意味と背景，定理がどうして成り立つかを詳しく説明しました．

2 面積とは何か
この講義では，長さ，面積，体積に関する解析学について，特に面積に焦点を絞ってお話したいと思います．
面積とは何であり，どのように求めることができるしょうか？
広辞苑によれば，面積の定義は次のものです：

ルベーグ積分と面積0の不思議な図形たち（新井仁之）

図1：一辺どの．LE方形による敷き詰め「一定の面の広さ．閉曲線で囲まれた平面・曲面などの広さを表す数値」

しかし，ここでいう「広さ」の数学的な定義が何かといわれると，それに答えることは難しいのではないでしょうか．19世紀末，この間題をジョルダン1という数学者が研究しました．

2．1面積の数学的な定義（ジョルダン測度）
ジョルダンによる面積の定義を紹介しましょう．ただし，話をわかりやすくするために，もともとのジョルダンの定義とは表現等を変えています．
まず，月＝［α，α＋ど）×［わ，わ＋E）を一辺どの止方形といい，その面積l月lをE2と定めます．ただし便宜上，空集合βも正方形の一つと考え，匿l＝0と定めます．ここで注意すべきことは，一般の図形の面積の定義があり，〉LE方形月の面積がE2になるというのではなく，正方形月に対してE2をその面積と決めたのです．これを元に一般の図形の面積を定義していきます．たとえば平面内の図形βを考えます．
まず，小さい正の数E＞0に対して，一辺どの．L巨万形を互いに重なり合わないように，βの中に並べます（図1参照）．ただし，止方形はヱ軸に平行になるように並べることにします．並べ方にはいろいろあり，それによって正方形の面積の縦湘も変わりますが，一辺どの正方形の面積の総和のうち最も大きい値を生（β）とおきます．もし図形βが小さく，このような止方形が一つも入らない場合は生（β）＝0とします．
1camilleJordan，1838−1922，フランスの数学者．

ルベーグ積分と面積0の不思議な図形たち（新井仁之）

図2‥一辺E／2の正方形による敷き詰め

図3：外側からの被覆

さてここで，図形βが複雑であれば，どうしてもすき間ができてしまいます．しかし，より小さな正方形，たとえば一辺∈／2の正方形で敷き詰めれば，すき間は前よりも少なくなります2．
そこで，どをより小さくしていって得られる生（β）の中で一番大きい
値を旦（β）とおきます3．
旦（β）は図形βの面積の内側からの近似としては非常に良い値を取っています．しかし，それが本当にβの面積に到達しているかどうか，すなわちすき間が完全に埋まっているかどうかは保証できません．そこで，今度は一辺がどの正方形をご軸に平行になるように並べてかを覆います．ただし正方形どうしは重なっていてもよいことにします．

2正確にはすき間が大きくはならないというべきかもしれません．
3正確には「上限」と呼ばれている値です．本稿ではその定義は省略します．上限
は数学の記号では，Sp些ビ岬）と善かれます・

ルベーグ積分と面積0の不思議な図形たち（新井仁之）

そして，いろいろ覆ってみて，その一辺どの正方形の面積の総和の最も小さい値を豆ど（β）とおきます．

さらにどをいろいろ取って得られる存亡（β）の中で一番小さい値4を・・小・とおきます．すると，感覚的には

些（β）≦ βの広がりの大きさ ≦百（β）ということがわかると思います．そこで次のような定義が考えられます．
定義1（ジョルダンの意味の面積） βを平面内の有界な固形5とする．
もし旦（β）＝百（β）

であるとき，βはジョルダンの方法で面積が測定可能，あるいはジョルダン可測な図形であるという．そして（1）の値旦（β）＝百（β）を汀とノ（β）と表し，βのジョルダンの意味での面積，あるいはジョルダン測度という．

2．2 ジョルダンの方法で面積が測定不可能な図形
ジョルダンの方法によって多くの図形の面積を測定することができます．しかしこの方法で面積の測定が不可能な図形もあります．その一つとして2次元ハルナック集合を紹介しておきましょう．
2次元ハルナック集合〃は図4のように一辺1の正方形から十字の帯を除くという操作を何度も繰り返し行なって，この操作を無限回続けた極限として得られる図形です．

図4の操作で作られていく正方形の面積の総和を考えると百（〃）≧1／44

正確には下限を取ったものです．数学の記号では，in簸（刀）と書かれます．

5有界な図形とは，十分大きな正方形で囲むことができる図形のことです．

（1）

ルベーグ積分と面積0の不思議な図形たち（新井仁之）

図4：2次元ハルナック集合となることがわかります．ところが，〃はどんな小さな正方形も内部に含みえないので旦（ガ）＝0です．したがって，ハルナック集合はジョルダンの方法で面積測定不可能となります．

一般にあるパターンの操作を無限に繰り返して作られる図形の場合，ジョルダンの方法では両横が測定可能でなくなることがあります．

3 ルベーグの方法による面積の測定
1902年にフランスの数学者アンリ・ルベーグは，無限の操作によって作られた図形の面積をも測定できる方法を考案しました．ここではジョルダンの面積の定義と比較しながら，ルベーグの方法を解説します．
ジョルダンによる面積の測定方法（復習）たとえ話でいうとジョルダンの方法では，一辺の長さがある正の数どより小さな正方形を作れない「どの有限世界」というものがあると考えます．この世界で，一辺の長さどの正方形を使って図形βを測定してルベーグ積分と面積0の不思議な図形たち（新井仁之〉

図5：左：どの有限世界，右：ルベーグの無限の世界

もらったデータが生（β），百亡（β）です．そしてさまざまな「どの有限世界」を訪ねてデータ生（β），百ど岬）を集め，それらの上限と下限をとったものが旦（β），百（β）です・この二つの数値が・致するかどうかで面積の測定可能性を判定するのでした．

ルベーグによる面積の測定方法
これに対して，ルベーグはどんな小さな正方形をも作れ，しかも可算無限個の正方形を日出に扱うことのできる「無限の世界」があると考えます．「無限の世界」で図形βを可算無限個の正方形で覆ってもらいます．そして可算無限個の正方形によるすべての寝い方を考え，βを鐘う正方形の面積の総和の下限をとり，r（β）と表します．
数学の記号で書けば，r（β）＝inf（プ某‥．「馴‥β⊂J封，．．．Q∫湖は榔平行な正方形です．ただし便宜上必もご軸に平行な正方形のつとみなし，1呵＝0とします．r（刀）を刀のルベーグ外測度といいます（外側から近似して測った測定値という意味です）．明らかにr（β）≦百（β）となっています．次にジョルダンの考えたように，図形を内側から近似していきます．ただし，ハルナック集合のようにどのように小さい正方形も含まない図形もあるので，少し工夫がいります．まず有界閉集合を定義します（定義は本稿では省略します）．そして，

7（β）＝S11p（r（〟）∴打⊂β，∬は有界閉集合）とします．

〉

ルベ岬グ積分と面積0の不思議な図形たち（新井仁之）

定義2（ルベーグの意味の面積）6 上）を平面内の図形で，r（β）＜∞とする．もし
7（刀）＝r（β）（2）であるとき，βはルベーグの方法で面積が測定可能，あるいはルベーグ可測であるといい，（2）の値 r（β）＝7（β）をm（β）と表し，これを♪のルベーグの意味での面積，あるいは通常ルベーグ測度という．
r（β）＝∞の場合は，すべてのⅣ＝1，2∴‥‥ に対して，β∩（フⅣ （ただし Q〃＝トⅣ，叫×トⅣ，叫）がルベーグ可測であるとき，βはルベーグの方法で面積が測定可能，あるいはルベーグ可測であるといい，m（β）＝∞

をβのルベーグの意味の面積，あるいはルベーグ測度という．
βが有界図形の場合，次のことが成り立ちます：
些（β）≦7（β）≦r（β）≦百（β）

したがって，有界図形βの面積がジョルダンの方法で測定可能 ＝＝⇒ ルベーグの方法で測定可能であり，mJ（β）＝m（β）

であることがわかります．
また，ルベーグ測度については次の定理が導かれます．

6ただしルベーグがもともと考えた定義ではなく，それと同値なよく知られた条件を定義として採用してます．

（3）

ルベーグ積分と面積0の不思議な図形たち（新井仁之）

定理3 月1，且2，軋・‥ がルベーグの方法で面積が測定可能であり，D〇

且1⊃且2⊃β3⊃…であれば且＝∩且乃もルベーグの方法で面花＝1積が測定可能であり，m（且1）＜∞ならばγn（且）＝1imm（j㌔）
m→（）〇である．

この定理から，ハルナック集合ガはルベーグの方法では面積が測定可能でありm（〝）＝1／4となることがわかります．

ここで，ジョルダンの方法とルベーグの方法がもたらす最も大きな違いをまとめておきましょう：ジョルダンの方法は（可算）無限回の操作で作られる図形に対してはあまり有効ではないのに対して，ルベーグの方法は（可算）無限回の操作に耐え得る・

4 ルベーグの理論と20世紀の解析学
ルベーグの三哩論は20世紀の解析学に大きな影響を与えました．たとえば，フーリエ解析，関数解析，確率論，偏微分方程式などです．本稿
ではその詳細は述べられませんが，その一端はたとえば［新井］に紹介してあります．

5 掛谷間題とベシコヴィッチ集合
少し話題を変えて，変わった図形を紹介しましょう．それはベシコ
ヴィッチ集合と呼ばれる面積0の不思議な図形です．じつは20世紀後半より，このべシコヴィッチ集合が実解析学の発展に多大な影響を与えております．

ルベーグ積分と面積0の不思議な図形たち（新井仁之）

5．1 掛谷間題
次のような問題があります．
［掛谷間題］長さ1の線分を一回転するのに必要な図形の中で面積が最も小さくてすむものは何か？
この問題は，大正から昭和初期に活躍した掛谷宗一7という数学者が考えた問題です．

掛谷間題の考えられた経緯を掛谷宗一の研究ノート，大正5（1916）年11月23日の部分からの引用しておきます．

『§10Srnallestdomainofrevolution8．

5，11，23

藤原君9ガ正二角形ノ内転形ノーツノmodelヲ食堂ニテー同二紹介セラシ時北条総長10ガ何心ナク発セラレタル奇警ノー
句アリ日ク「此内転形ガー回転スルニ要スル最小ノ場所ハ此正角形ナルカ」ト．予ハ側二在リテ之ヲ非常二興味アル質問ナリト感ジ直チニ自ラ次ノ如キー般的ノ問題ヲ創作セリ．即与へラレタル平面図形芽アリ．之ガ平面二一度回転シ得ル
為二必要ナル最小面積ノdoITlainβ（ズ）ヲ求メヨ．

回転シ得ルdomainヲ凡テXノdomainofrevolutionト呼べバ問題ハ其内ノsmallestノモノヲ求メントスルニ在り．』
掛谷は最初図6のような図形が答えであろうと考えました．
しかし，その後，すぐに藤原と窪田によってこれよりも小さな図形があることが指摘されました：『只今窪田11，藤原両君ヨリノ御注意ニヨリテp．82第一図ノexampleハ誤リナル事ガ発見セラレリ即高サPノ正三角
7掛谷宗一，1886−1947．掛谷は東京帝国大学理科大学を卒業後，第一高等学校，東北帝国大学を経て，昭和10年より東京帝国大学教授，また昭和19年からは初代統計数理研究所所長も兼任した．
8最小の回転領域．
9藤原松三郎，1881−1946．
10北条時敬，第2代東北帝国大学総長．
11窪田忠彦，1885−1952．

ルベーグ積分と面積0の不思議な図形たち（新井仁之）

図6二掛谷の答え

図7：藤原，窪田の答え

形ノ方ガ尚areaノ小ナルdomainofrevolutionナルヲ注意セラレタリ．尚窪田君ハ更二之ヨリ小ナル然レドモconvexナラザル例ヲ示サレタリ．』（掛谷研究ノートより）
藤原は正三角形が最小の凸図形であろうと予想しました．そして，1921年にJ．Pま1という人によって藤原の予想の正しいことが証明されました．しかし凸という条件を落とした場合の答えはわかりませんでした．
この間題に，非常に興味深い解決を与えたのが，ロシアの数学者ベシコ

ヴィッチ12です．

定理4（ベシコヴィッチ，1928） どんな小さな正の数亡に対しても，面積がEより小さく，しかもその図形の中で長さ1の線分を連続的に一回転できるものが存在する．
この定理は，じつは1919年に掛谷の問題とは無関係に，全く別の問題を考えている際に思い付いた次の定理から，容易に導かれるものでした．

定理5（ベシコヴィッチ，1919） あらゆる方向の長さ1の線分を含むような面積0の図形13が存在する．
12AbrahamSamoilovitchBesicovitch，18911970・
13特に有界閉集合として構成される．

ルベーグ積分と面積0の不思議な図形たち（新井仁之）

特に定理5で構成された集合のことをベシコヴィッチ集合といます．
この集合はその構成方法と合わせて，20世紀後半の実解析に多大な影響を与えました．

5．2 ベシコヴィッチ集合
講義では定理5の図形の作り方を紹介しました．紹介したのはペロンの木というものを母体に作っていく方法です．この方法自体がまた，多くの応用をもっています．（たとえば［新井］参照）．

5．3 ベシコヴィッチ集合と多変数関数の解析
ベシコヴィッチ集合の構成方法から，1変数関数と2変数関数の解析が本質的に違うことを示す例が1971年にC．フェファーマン14によって発見され，さらにそのアイデアを使っていくつかの応用も得られま
した：

1）円板予想の否定的解決（C・Fefferman，1971）
2）2変数関数のある種のルベーグの基本定理が成立しないこと（Stein，HarmonicAnalysis，PrincetonUniv．Press，P・445参照）
3）2変数の〝関数（p＜2）でフーリエ級数の球形和（あるいは一般的にある種の楕円型作用素のスペクトル分解）が発散するものの存在（B・S・Mitjagin，E・M・Niki畠in，1973）
etc．

5．4 ハウスドルフ次元とフラククル図形
ベシコヴィッチ集合と現代の実解析との関わりをさらに述べておきましょう．次の定義をしておきます．

定義6（掛谷集合） 2次元ユークリッド空間において，すべての方向の長さ1の線分を含むコンパクト集合を2次元掛谷集合という．また3
14charlesLuisFbfferman，1949．実解析，複素解析に関する業績で，1978年にフィールズ賞を受賞．

しベーダ精分と面積0の不思議な図形たち（新井仁之）

次元ユークリッド空間において，すべての方向の長さ1の線分を含むコンパクト集合を3次元掛谷集合という．
ベシコヴィッチ集合は面積0の2次元掛谷集合の例です．
さて，複雑な図形の大きさを測るのに，ハウスドルフ次元15というものが使われます．これは，最近フラクタル幾何学でよく使われているもので，通常の次元を一般化したものです．

たとえば，点は0次元，直線は1次元，平面は2次元，空間は3次元です．ハウスドルフ次元は，0．4次元とか1．5次元などのように，整数でない次元を測ることができる尺度です．
U⊂月dに対して，d（U）＝Stlp（d（ごっ封）‥エフ封∈L「）とおきます．ただしd（ごっ封）はズと〃のなすユークリッド距離です．な

お便宜上d（β）＝0とします．∂＞0とA⊂Rdが与えられたとき，Rdの部分集合り（ノ＝1，27…）が＼：d⊂∪とろ7 d（Ll）≦∂
J＝1をみたすとき，L′1（ノ＝1，27…）をdのJ一被覆であるといいます．
定義7（ハウスドルフ次元）n次元空間内の図形βを考える．ナ＞0フ∂＞0に対して舶二inせ（巧）と‥且⊂白乙細ま且の欄とし，〃f（且）＝S11p現（且）∂＞0とする．このとき，ある5≧0が存在し5くf＝⇒〃≠（且）＝0：0≦f＜5＝⇒〟f（且）＝∞が成り立つ．この5を且のハウスドルフ次元という．
15ハウスドルフ・べシコヴィッチ次元ともいう．

）

ルベーグ積分と面積0の不思議な図形たち（新井仁之）

本稿では省略しますが，講義ではハウスドルフ測度，ハウスドルフ次元がどのような理由でこのように定義されるのかを解説し，いわゆる自己相似集合のハウスドルフ次元の求め方（Hutchinsonの定理）と，カントル集合，2次元カントルダスト，コツホ曲線，シェルピンスキー・ガスケット等のフラクタル図形が生成されていく様子を動画を見せながら説明しました．解説は［新井］に，また動画はhttp：／／www4．ocn，ne．jp・raraiにあります．

6 掛谷間題デーヴィスが次のことを証明しました：

定理8（デーヴィス，1971） 2次元掛谷集合のハウスドルフ次元は2である．

さて，空間でも掛谷集合が考えられます．体積0の掛谷集合も作ることができます．次の間題が現在専門家により研究されています．
［掛谷予想］ 3次元掛谷集合のハウスドルフ次元は3か？
この間題は今のところ未解決です．現在，次のことは知られています．

定理9（ヴォルフ，1995） 3次元掛谷集合のハウスドルフ次元は少なくとも5／2以上である．

掛谷予想は，実解析のいくつかの未解決問題と関連していることが最近わかってきました．たとえば3次元空間において，1）フーリエ変換のボッホナーリース総和法に関する問題が肯定的に解ければ，掛合予想が肯定的に解ける（T．Tao，1999）．

2）フーリエ変換の制限問題が肯定的に解ければ，掛谷予想が肯定的に解ける（J・Bourgain，1991）．

3）掛谷極大関数の〝評価に関する予想が肯定的ならば，掛谷予想が肯定的に解ける（J・Bourgain，1991）・

ルベーグ積分と面積0の不思議な図形たち（新井仁之）

etc．
これらの問題は，2変数関数の解析と3変数のそれとは違うことを示しています．

7 あとがき講義ではいくつかの動画をプロジェクターを使って見せながら講義を進めました．講義に使った動画はHP
http：／／www4．ocn．ne・jp．raraiに載せてあります．
また，講義ならびに本稿では定理の証明は省略しましたが，証明ならびにさらに詳しい解説は［新井］新井仁之，ルベーグ積分講義，−ルベーグ積分と面積0の不思議な図形たち，日本評論社として刊行予定です．これは前掲の拙稿『測度』を本に膨らませたもので，湘南数学セミナーはこの本の原稿をもとに講義しました．
最後になりましたが，湘南数学セミナーでは日本数学会学術委員の小島定吉教授に多大なお世話をいただきました．深く感謝いたします．
また，セミナーのチューターを務めてもらった東京大学の渾野嘉宏君ならびにさまざまなサポートをしていただいた湘南国際村センターのスタッフの方々にこの場を借りて感謝の意を表したいと思います．それから本稿に関して『数学通信』編集委員長の坪井俊教授には様々なお世話をいただきました．お礼申し上げます．なお本稿の図版の作製は新井しのぶによります．
（あらいひとし，東京大学大学院数理科学研究科）