제1 범주 집합

일반위상수학에서 **제1 범주 집합**(第一範疇集合, meager set, set of first category)은 위상만으로 정의할 수 있는, ‘매우 작은’ 집합의 개념이다. 영집합의 개념과 유사하지만, 측도 없이도 정의된다.
# 정의

## 조밀한 곳이 없는 집합
위상 공간 X의 부분 집합 S\subseteq X에 대하여 다음 조건들이 서로 동치이며, 이를 만족시키는 집합을 **조밀한 곳이 없는 집합**(稠密한 곳이 없는 集合, nowhere dense set)이라고 한다. * (A) \operatorname{int}(\operatorname{cl}(S))=\varnothing.언어=en41, §8.A40, §9 * (A′) X\setminus\operatorname{cl}(S)=\operatorname{int}(X\setminus S)는 X의 조밀 열린집합이다.41, §8.A * (B) \operatorname{cl}S=\partial U인 열린집합 U\subseteq X가 존재한다. * (C) S\subseteq \partial U인 열린집합 U\subseteq X가 존재한다. * (B′) \operatorname{cl}S=\partial F인 닫힌집합 F\subseteq X가 존재한다. * (C′) S\subseteq \partial F인 닫힌집합 F\subseteq X가 존재한다. 여기서 \operatorname{cl}은 폐포이며, \operatorname{int}는 내부이며, \partial은 경계이다.

**증명:**

조건 A ⇒ 조건 B: U=X\setminus\operatorname{cl}S로 놓는다. 그렇다면 \operatorname{cl}(U)=X\setminus\operatorname{int}(\operatorname{cl}(S))=X이며, \partial U=\operatorname{cl}(U)\setminus U=X\setminus(X\setminus\operatorname{cl}S)=\operatorname{cl}S이다. 조건 B ⇒ 조건 C: \partial U=\operatorname{cl}(U)\cap(X\setminus U)는 닫힌집합이므로, S\subseteq\operatorname{cl}S\subseteq\partial S이다. 조건 C ⇒ 조건 A: 우선, \partial U=\operatorname{cl}(U)\cap(X\setminus U)는 닫힌집합이다. 따라서 \operatorname{cl}(S)\subseteq\operatorname{cl}(\partial U)=\partial U이다. 또한, 임의의 열린집합 V\subseteq\partial U에 대하여, V\subseteq\partial U\subseteq X\setminus U이므로 V\subseteq\operatorname{int}(X\setminus U)=X\setminus\operatorname{cl}(U)인데, 또한 V\subseteq\partial U\subseteq\operatorname{cl}(U)이다. 따라서 V=\varnothing이며, \varnothing=\operatorname{int}(\partial U)\supseteq\operatorname{int}(\operatorname{cl}S)이다. 조건 A ⇔ 조건 A′: 조밀 집합의 정의에 의하여 자명하다. 조건 B ⇔ 조건 B′, 조건 C ⇔ 조건 C′: U=X\setminus F로 놓으면 \partial U=\partial F이다.

## 바나흐-마주르 게임
집합 X 속의 집합족 \mathcal W\subseteq\operatorname{Pow}(X)이 주어졌을 때, 임의의 부분 집합 S\subseteq X에 대하여, 다음과 같은 2인(人) 게임을 생각하자. # 두 선수 갑(甲)과 을(乙)이 있다. # 갑과 을은 수(手)를 두는 것을 반복하며, 갑이 먼저 수를 둔다. 여기서, 수를 둔다는 것은 W\in\mathcal W를 고르는 것이다. 수들을 (W_0,W_1,W_2,\dots)라고 하자. (즉, 갑은 W_0,W_2,W_4,\dots를 두고, 을은 W_1,W_3,W_5,\dots를 둔다.) 각 선수는 이전에 놓인 모든 수(手)들을 알고 있으며, 또한 W_0\supseteq W_1\supseteq W_2\supseteq\cdots이어야 한다. # 만약 S\cap W_0\cap W_1\cap\cdots\ne\varnothing라면 갑이 이기며, 아니라면 을이 이긴다. 이를 **바나흐-마주르 게임**(Banach–Mazur game) \operatorname{BM}(X,S,\mathcal W)이라고 한다.언어=en232–233, §451, §8.H
## 제1 범주 집합
위상 공간 X 속의 집합족 \mathcal W\subseteq\operatorname{Pow}(X)가 만족시킬 수 있는 다음과 같은 성질 (∗)를 정의하자. * 성질 (∗): 임의의 W\in\mathcal W에 대하여, \operatorname{int}W\ne\varnothing이며, 또한 임의의 열린집합 U\subseteq X에 대하여, W\subseteq U인 W\in\mathcal W가 하나 이상 존재한다. (예를 들어, \mathcal W를 공집합이 아닌 모든 열린집합의 족으로 잡으면 성질 (∗)가 성립한다.) 그렇다면, 위상 공간 X의 임의의 부분 집합 S\subseteq X에 대하여, 다음 세 조건들이 서로 동치이며, 이를 만족시키는 집합 S를 X의 **제1 범주 집합**이라고 한다. * S는 가산 개의 조밀한 곳이 없는 집합들의 합집합이다. 즉, \textstyle S=\bigcup_{i\in I}S_i가 되는, 가산 개의 조밀한 곳이 없는 집합들의 족 \\{S_i\\}_{i\in I}, |I|\le\aleph_0이 존재한다.mr=046412829541, §8.A40, §9 * 바나흐-마주르 게임 \operatorname{BM}(X,S,\mathcal W)에서 을이 필승 전략을 갖는, (∗) 조건을 만족시키는 집합족 \mathcal W\subseteq\operatorname{Pow}(X)이 존재한다.233, §51, Theorem 8.33 * (∗) 조건을 만족시키는 임의의 집합족 \mathcal W\subseteq\operatorname{Pow}(X)에 대한 바나흐-마주르 게임 \operatorname{BM}(X,S,\mathcal W)에서 을이 필승 전략을 갖는다.233, §51, Theorem 8.33 위상 공간 X의 **제2 범주 집합**(第二範疇集合, subset of the second category, nonmeager set)은 제1 범주 집합이 아닌 부분집합이다.41, §8.A40, §9 모든 제1 범주 집합의 여집합이 조밀 집합인 위상 공간을 **베르 공간**이라고 한다. 조밀한 곳이 없는 집합들과 열린집합들을 포함하는 최소의 시그마 대수의 원소를 **준열린집합**이라고 한다.
# 성질

## 함의 관계
위상 공간의 부분 집합에 대하여, 다음과 같은 함의 관계가 존재한다. :{| | colspan=2 | || 정칙 열린집합 ⇒ 열린집합 |- | || ⇗ || || ⇘ |- | 열린닫힌집합 |colspan=3| || 보렐 집합 |- | || ⇘ || || ⇗ || || ⇘ |- | colspan=2 | || 정칙 닫힌집합 ⇒ 닫힌집합 | colspan=3 | || 준열린집합 ⇒ 부분 집합 |- | colspan=5 | || ⇗ |- | colspan=5 | 조밀 열린집합의 여집합 ⇒ 조밀한 곳이 없는 집합 ⇒ 제1 범주 집합 |}
## 연산에 대한 닫힘
다음이 성립한다. {| class="wikitable" |- ! 집합의 종류 || 부분 집합에 대하여 닫힘? || 유한 합집합에 대하여 닫힘? || 가산 합집합에 대하여 닫힘? || 비가산 합집합에 대하여 닫힘? |- ! 조밀한 곳이 없는 집합 | ⭕ || ⭕ || ❌ || ❌ |- ! 제1 범주 집합 | ⭕ || ⭕ || ⭕ || ❌ |} 즉, 조밀한 곳이 없는 집합들은 순서 아이디얼을 이루며, 제1 범주 집합들은 시그마 아이디얼을 이룬다.
## 측도와 제1 범주성의 관계
측도와 범주 사이에는 다음과 같은 아날로지가 성립한다.언어=en {| class="wikitable" || 원래 시그마 대수 || 추가되는 시그마 아이디얼 || 확장된 시그마 대수 |- ! 측도 | rowspan=2 | 보렐 집합 || 영집합 || 르베그 가측 집합 |- ! 범주 | 제1 범주 집합 || 준열린집합 |} 그러나 다음 정리와 같이, 측도와 범주는 서로 잘 호환되지 않는다. * 유클리드 공간 \mathbb R^n 및 임의의 양의 실수 \epsilon>0에 대하여, \operatorname{vol}(\mathbb R^n\setminus U)<\epsilon인, 르베그 가측 조밀한 곳이 없는 열린집합 U_\epsilon\subseteq\mathbb R^n가 존재한다. (여기서 \operatorname{vol}은 르베그 측도이다.)

**증명:**

유리수 집합의 곱집합과 자연수 집합 사이의 임의의 전단사 함수 f\colon\mathbb Q^n\to\mathbb N을 생각하자. 이제, 다음과 같은 열린집합들의 열을 생각하자. :V_i=\bigcup_{x\in\mathbb Q^n}\operatorname{ball}\left(x,2^{-f(x)-i}\right)\qquad(i\in\mathbb N) 여기서 \operatorname{ball}(x,r)는 반지름 r, 중심 x의 열린 공이다. 그렇다면, 다음이 성립하는 것을 쉽게 알 수 있다. * \operatorname{vol}(V_i)\le \operatorname{vol}(\operatorname{ball}(0,1))\cdot 2^{1-i}. * \mathbb R\setminus V_i는 조밀한 곳이 없는 집합인 닫힌집합이다. 이제 i=\lceil 1-\log_2(\epsilon/\operatorname{vol}(\operatorname{ball}(0,1)))\rceil 로 놓고 U_\epsilon=V_i로 놓으면 된다.

* \mathbb R^n\setminus X가 르베그 영집합인 Gδ 제1 범주 집합 X\subseteq\mathbb R^n가 존재한다.

**증명:**

집합 :G=\bigcap_{i=1}^\infty U_{1/i}\subseteq\mathbb R^n 를 정의하면, 정의에 따라 다음이 성립한다. * G는 Gδ 집합이다. * \mathbb R^n\setminus G는 제1 범주 집합이다. * \textstyle\operatorname{vol}(G)\le\min_{i=1}^\infty\operatorname{vol}(U_{1/i})이므로 \operatorname{vol}(G)=0이다.

따라서, 측도가 0인 것과 제1 범주 집합인 것은 둘 다 매우 ‘작은’ 집합임을 의미하지만, 이들은 매우 다른 개념인 것을 알 수 있다. 반면, **에르되시-시에르핀스키 정리**(Erdős-Sierpiński定理, Erdős–Sierpiński theorem)에 따르면, 만약 연속체 가설이 성립한다면 다음 조건들을 모두 만족시키는 전단사 함수 f\colon\mathbb R\to\mathbb R가 존재한다.75, Theorem 19.3언어=en643, §I * 대합이다. 즉, 임의의 r\in\mathbb R에 대하여 f(f(r))=r이다. * 임의의 부분 집합 A\subseteq R에 대하여, A가 제1 범주 집합일 필요 충분 조건은 f(A)가 르베그 영집합인 것이다. 즉, 연속체 가설이 성립한다면 영집합과 제1 범주 집합 사이의 아날로지가 완벽히 성립하는 것을 알 수 있다. 그러나 **슈필라인 불가능성 정리**에 따르면, 다음 두 조건을 만족시키는 전단사 함수 f\colon \mathbb R\to\mathbb R는 존재할 수 없다.82언어=fr306, §3 * S\subseteq\mathbb R에 대하여, S가 르베그 가측 집합일 필요 충분 조건은 f(S)가 준열린집합인 것이다. * S\subseteq\mathbb R에 대하여, S가 르베그 영집합일 필요 충분 조건은 f(S)가 제1 범주 집합인 것이다.
## 보렐 위계와의 관계
위상 공간 X의 부분 집합 S\subset X에 대하여, 다음 두 조건이 서로 동치이다. * S는 조밀한 곳이 없는 집합이다. * \operatorname{cl}(S)는 조밀한 곳이 없는 집합이다. 위상 공간 X의 부분 집합 S\subset X이 열린집합이며 조밀한 곳이 없는 집합이라면, S는 공집합이다. 임의의 위상 공간 X의 임의의 제1 범주 집합 M\subseteq X에 대하여, M\subseteq\tilde M\in\boldsymbol\Sigma^0_2(X)인 제1 범주 집합 \tilde M이 존재한다. (여기서 \boldsymbol\Sigma^0_2(X)는 Fσ 집합들의 족이다.)

**증명:**

정의에 따라, M은 가산 개의 조밀한 곳이 없는 집합 \\{M_i\\}_{i\in\mathbb N}들의 합집합으로 나타낼 수 있다. :M=\bigcup_{i\in\mathbb N}M_i 조밀한 곳이 없는 집합의 폐포는 (자명하게) 조밀한 곳이 없는 집합이므로, :\tilde M=\bigcup_{i\in\mathbb N}\operatorname{cl}(M_i) 로 놓으면 자명하게 M\in\tilde M\in\boldsymbol\Sigma^0_2(X)이다.

# 예
실수선 \mathbb R의 부분 집합으로서, 유리수의 집합 \mathbb Q\subseteq\mathbb R는 제1 범주 집합이다. 반면, 무리수의 집합은 제1 범주 집합이 아니다. 또한, 유리수의 집합은 스스로의 부분 집합 \mathbb Q\subseteq\mathbb Q으로서도 제1 범주 집합이다. 따라서, 유리수의 공간은 베르 공간이 아니다. 실수선의 부분 집합으로서, 칸토어 집합은 제1 범주 집합이다. 그러나 스스로의 부분 집합으로서 칸토어 집합은 베르 범주 정리에 따라서 제1 범주 집합이 아니다. 집합 \\{1/n\colon n\in\mathbb Z^+\\}은 실수선의 조밀한 곳이 없는 집합이며, 닫힌집합이 아니다. 베르 공간 \mathbb N^{\aleph_0}의 모든 콤팩트 집합은 조밀한 곳이 없는 집합이다.41, §8.A 증명 귀류법을 사용하여, A\subseteq\mathbb N^{\aleph_0}가 콤팩트 집합이지만, 조밀한 곳이 없는 집합이 아니라고 하자. \mathbb N^{\aleph_0}은 하우스도르프 공간이므로, A는 닫힌집합이다. 따라서 \operatorname{int}A\ne\varnothing이며, A는 다음과 같은 꼴의 열린집합을 포함한다. :\\{a_0\\}\times\\{a_1\\}\times\dotsb\times\\{a_{n-1}\\}\times\mathbb N\times\mathbb N\times\dotsb\subseteq A 이는 닫힌집합이기도 하므로, 콤팩트 집합이다. 하지만 그 열린 덮개 :\\{\\{a_0\\}\times\\{a_1\\}\times\dotsb\times\\{a_{n-1}\\}\times\\{a\\}\times\mathbb N\times\mathbb N\times\dotsb\colon a\in\mathbb N\\} 는 유한 부분 덮개를 갖지 않는다. 이는 모순이다. 증명 끝
# 역사
슈코츠카 책의 현존하는 한 쪽 제1 범주 집합의 개념은 르네루이 베르가 1899년 박사 학위 논문에서 도입하였다.언어=fr언어=en 에르되시-시에르핀스키 정리는 1934년에 바츠와프 시에르핀스키가 대합 조건을 제외하고 증명하였으며,언어=fr 이후 1943년에 에르되시 팔이 대합 조건을 추가하여 증명하였다. 슈필라인 불가능성 정리는 1934년에 에드바르트 마르체프스키(Edward Marczewski, 1907~1976)가 증명하였다.306, §3 (마르체프스키의 본명은 에드바르트 슈필라인(Edward Szpilrajn)이었지만, 1940년에 나치 독일의 유대인 박해를 피하여 ‘마르체프스키’로 개명하였다.) 바나흐-마주르 게임은 스타니스와프 마주르가 1935년에 도입하였다. 당시 리비우에 살던 수학자들은 슈코츠카 카페(카비아르니아 슈코츠카, 슈코츠카는 슈코치아(스코틀랜드)의 형용사형)에 모여서 수학 문제들을 토론하였으며, 토론에 의하여 얻은 결과들을 "슈코츠카 책"(크시엥가 슈코츠카)이라는 노트에 기록하였다. 마주르의 게임의 필승 전략과 제1 범주성 사이의 관계는 슈코츠카 책의 43번 문제로 수록되었으며, 같은 책에서 스테판 바나흐가 1935년 8월 4일 증명하였다고 기록되었다.언어=en116, Problem 43 그러나 바나흐는 이 증명을 기록하지 않았다. 이후 1957년에 존 옥스토비(John C. Oxtoby, 1910~1991)가 마주르의 추측의 증명을 출판하였다.언어=en