境界 (位相空間論)

一般位相において位相空間 "X" の部分集合 "S" の境界（きょうかい、）とは、"S" の中からも外からも近づくことのできる点の全体の成す "X" の部分集合のことである。もうすこし形式的に言えば、"S" の触点（閉包に属する点）のうち、"S" の内点（開核に属する点）ではないものの全体の成す集合のことである。"S" の境界に属する点のことを、"S" の境界点 と呼ぶ。"S" が境界を持たない とは、"S" が自身の境界を包含しないこと、あるいは同じことだが境界点がひとつも "S" に属さないことをいう。集合 "S" の境界を表すのに、bd("S"), fr("S"), ∂"S" のような記法がしばしば用いられる。代数的位相幾何学における境界 の概念との区別のため、ここでいう境界に対応する語として "boundary" の代わりに "frontier" を用いることがある（たとえば松坂『集合・位相入門』）。
集合 "S" の境界の連結成分のことを、"S" の境界成分 という。
よくある定義.
位相空間 "X" の部分集合 "S" の境界について、複数の（しかし互いに同値な）定義の仕方がある。よく用いられるものとしては
などである。
例.
実数直線 R に通常の位相（つまり、開区間を開基とする位相）を考えると、たとえば
などが成立する。最後のふたつの例は、内点を持たない稠密集合の境界はその集合の閉包に一致するという一般的な事実を説明するものになっている。 
有理数全体の集合に通常の位相（R の部分位相空間としての位相）を考えた位相空間の中では、"a" が無理数であるときの区間 (−∞, "a") の境界は空集合である。
集合の境界というのは位相的な概念であり、集合に入れる位相を変えれば（同じ集合であっても）何が境界であるかが変わってくる。例えば、通常の位相を持つ R2 における閉円板 Ω = {("x", "y") | "x"2 + "y"2 ≤ 1} の境界は、この円板を囲む円周 ∂Ω = {("x", "y") | "x"2 + "y"2 = 1} である。もしここで、この円板を通常の位相をもつ R3 の部分集合 Ω = {("x", "y", 0) | "x"2 + "y"2 ≤ 1} と見るならば、この円板の境界は円板自身 ∂Ω = Ω であり、また円板それ自身を（相対位相に関する）位相空間と見れば、その境界は空となる。
性質.
これらのことから以下のようなことが従う。
"S" の各点は内点であるか境界点であるかのいずれかである。また、"S" の各点は集積点であるか孤立点であるかのいずれかである。同様に、"S" の各境界点は集積点であるか孤立点であるかのいずれかである。R"n"の部分集合の孤立点は常に境界点である。
境界の境界.
如何なる集合 "S" についても ∂"S" ⊇ ∂∂"S" が成立する。ここで等号は "S" の境界が内点を持たないとき、かつそのときに限り成り立つ。これは "S" が開または閉であるときにも正しい。任意の集合の境界が閉となることから、∂∂"S" = ∂∂∂"S" は如何なる集合 "S" についても成り立つ。したがって、境界をとる操作は弱い意味で冪等である。特に、集合の境界の境界はふつう空でない。
多様体や単体および単体的複体の境界に関する議論では、しばしば境界の境界はつねに空であるという主張を目にすることもあるだろう。実際、特異ホモロジーの構成はこの事実に決定的に基づいている。この明らかな不整合に対する説明としては、この項目の主題となる位相的な境界と、多様体や単体的複体の境界とは少し異なる概念であるからということになる。例えば閉円板をそれ自身位相空間とみなしたときの位相的な境界は空集合だが、円板自身を多様体と見なしたときの境界は円板自身の円周である。