開集合

動機づけ

直観的には、開集合は二点を区別する方法を与える。例えば、位相空間内の一点について、もうひとつの（相異なる）点を含まない開集合がとれるならば、それら二点は位相的に区別できると言う。このようなやり方で、同じ位相空間のふたつの集合が「近い」ということを、その空間上に具体的な距離函数を定義することなしに言及することができる。したがって、位相空間は距離空間の一般化とみなすことができる。
実数全体の成す集合 ℝ には、自然なユークリッド距離（二つの実数 x, y の違いを測る函数 d(x, y) := |x − y|）がある。これを用いて、与えられた実数に対して、その実数の近い点（つまり、与えられた実数を x として、x からの距離が ε 内にあるような点）全体の成す集合について述べることができる。本質的に、x と ε 以内にある点は、ε の精度で x を近似するものである。着目すべきは、ε > 0 を常に保ったまま ε をより小さくしていけば、x をより高い精度で近似する点が得られることである。例えば、x := 0, ε := 1 とすれば、x と ε 内の距離にある点全体は、ちょうど開区間 (−1, 1) に属する点（つまり、−1 から 1 までの任意の実数）の全体になっている。同様に、ε := 0.5 とすれば、x と ε 内の距離にある点全体は開区間 (-0.5, 0.5) に他ならず、明らかにこちらの点のほうが ε = 1 の場合と比べて精度が高い。
このように、ε をどれほどでも小さく定義すれば、x の近似の精度はどれほどでも高くできる。特に、開区間(-ε, ε) の形の集合は x = 0 の近くの点に関するたくさんの情報を与えるものとなる。そこで、具体的なユークリッド距離の代わりに、このような集合を x に近い点の記述に用いることができる。この画期的な考えは広範にわたって重大な結果をもたらす。特に、0 を含む（(-ε, ε) ではない）別な種類の集合の集まりを定義することで、0 とほかの実数との距離に関する異なる結果を求めることができる。例えば、そのように「距離を測る」集合は ℝ のみと定めれば、0 を近似する精度はこの ℝ ただ一つなのであるから、ℝ の元である任意の実数が 0 に近い（ある意味では、0 と任意の実数との距離が 0 であると思える）ということになる。このような測り方はつまり、ℝ に入るならば 0 に近く、ℝ に入らないならば 0 に近くない、という二択条件と考えればよい。
一般に、0 の近似に用いる、0 を含む集合族として開近傍系が定まり、その元は開集合と呼ばれる。実は、これらのことは実数の集合 ℝ に限らず任意の集合 X に対して一般化することができる。その場合、集合 X の与えられた点 x に対して、x の近似に用いる x の「周囲」の（つまり x を含む）集合の族を定義することができる。もちろん、そのような族は（公理と呼ばれる）ある種の性質を満足するようにしなければならない（そうでないと距離を測る方法がきちんと定義できない）。たとえば、X に属する任意の点は x を何らかの精度で近似するはずであるから、X は当該の集合族に入っているべきものである。ひとたび x を含む「より小さい」集合を定義し始めれば、x をより高い精度で近似する方向へ向かっていく。このようなことを念頭に、x の周りの集合族が満足することが求められるほかの公理も定めることができる。

定義

開集合の概念は、その抽象性の度合いも含めて、様々なクラスに対して定式化することができる。以下にいくつかを挙げる:

ユークリッド空間の場合

n-次元ユークリッド空間 ℝⁿ の部分集合 U が開であるとは、任意の x ∈ U に対し、実数 ε > 0 が存在して、x とのユークリッド距離が ε より小さい任意の y ∈ ℝⁿ は y ∈ U も満たすようにできるときに言う。あるいは同じことだが、ℝⁿ の部分集合 U が開となるのは、U の各点が U に含まれる ℝⁿ 内の近傍を持つときである。

距離空間の場合

距離空間 (M, d) の部分集合 U が開であるとは、任意の点 x ∈ U に応じて適当な実数 ε > 0 を選べば、d(x, y) < ε なる任意の y ∈ M に対して y ∈ U となるようにできるときに言う。同じことだが、U が開となるのは、U の各点が U に含まれる近傍を持つときである。
これはユークリッド空間の例を一般化するものである（ユークリッド空間にユークリッド距離を入れたものは距離空間である）。

性質

開集合からなる有限または無限個の族の合併は、ふたたび開となる。有限個の開集合からなる族の交わりは開集合である。
開集合の（位相の定義された全体空間に対する）補集合は閉集合と呼ばれる。開でも閉でもある集合（開かつ閉集合）も存在しうる。空集合および全体空間は開かつ閉集合の例となる。

使用

開集合は位相空間論において基礎を成す重要性を持つ。開集合は位相空間やほかの位相的構造の定義に用いられ、近さの概念や距離空間や一様空間などの空間における収束性に意味を持たせる。
位相空間 X の任意の部分集合 A は必ず開集合（空集合でもよい）を含むが、そのような開集合の中で最大のものは A の内部と呼ばれる。A の内部は A に含まれる開集合すべての合併をとることで構成できる。
X, Y が位相空間であるとき、写像 f: X → Y が連続であるとは、Y の任意の開集合の逆像が X の開集合となるときに言う。f が開であるとは、X の任意の開集合の像が Y の開集合となるときに言う。
実数直線上の開集合は、それが可算個の開区間の非交和となるという性質によって特徴付けられる。

位相が違えば開かどうかも変わる

与えられた集合が開集合かどうかは、考えている位相に依存する。極めて誤解されにくいことよりも極めて簡潔であることを選んだならば、「位相 Τ を備えた集合 X」に言及する際に、「位相空間 (X, Τ)」と言わずに（位相的な情報はすべて Τ が持っているにも拘らず）「位相空間 X」と言う。
いま、同じ集合上に二つの位相が存在するとすれば、その部分集合 U が一方の位相では開だが、他方では開でないということが起こり得る。たとえば X を任意の位相空間とし、Y は X の任意の部分集合とすれば、Y 自身も部分空間の位相と呼ばれる位相によって位相空間となる。相対位相は「Y の部分集合 U が開であるには、U が X のもともとの位相に関する開集合と Y との交わりに書けることが必要十分」とするものである。これは X の開集合でない部分集合が Y の開集合となる可能性を持っている。V はもとの空間 X の位相で開となるが、V ∩ Y は開でないものとするとき、V ∩ Y は相対位相で Y の開集合だが X のもともとの位相では開でない部分集合である。
このことの具体例を挙げれば、U を開区間 (0, 1) に属する有理数全体の成す集合とするとき、U は有理数全体の成す空間 ℚ の開部分集合だが、実数直線 ℝ の部分集合としては開でない。これは実際、全体空間を ℚ とするとき、各点 x ∈ U に対し、正の数 ε が存在して、x との距離が ε 以内のすべての「有理」点が U に入るようにすることができ、他方、全体空間を ℝ とするならば、どのような x ∈ U を取っても、正の数 ε で x の ε 以内にあるすべての「実」点が U に入るようなものは存在しない（U は有理数でない数は含まないから）ということによる。