제1 범주 집합

일반위상수학에서 제1 범주 집합(第一範疇集合, )은 위상만으로 정의할 수 있는, ‘매우 작은’ 집합의 개념이다. 영집합의 개념과 유사하지만, 측도 없이도 정의된다.
정의.
조밀한 곳이 없는 집합.
위상 공간 formula_1의 부분 집합 formula_2에 대하여 다음 조건들이 서로 동치이며, 이를 만족시키는 집합을 조밀한 곳이 없는 집합(稠密한 곳이 없는 集合, )이라고 한다.
여기서 formula_14은 폐포이며, formula_15는 내부이며, formula_16은 경계이다.
증명:
조건 A ⇒ 조건 B: formula_17로 놓는다. 그렇다면 formula_18이며, formula_19이다.
조건 B ⇒ 조건 C: formula_20는 닫힌집합이므로, formula_21이다.
조건 C ⇒ 조건 A: 우선, formula_20는 닫힌집합이다. 따라서 formula_23이다. 또한, 임의의 열린집합 formula_24에 대하여, formula_25이므로 formula_26인데, 또한 formula_27이다. 따라서 formula_28이며, formula_29이다.
조건 A ⇔ 조건 A′: 조밀 집합의 정의에 의하여 자명하다.
조건 B ⇔ 조건 B′, 조건 C ⇔ 조건 C′: formula_30로 놓으면 formula_31이다.
바나흐-마주르 게임.
집합 formula_1 속의 집합족 formula_33이 주어졌을 때, 임의의 부분 집합 formula_2에 대하여, 다음과 같은 2인(人) 게임을 생각하자.
이를 바나흐-마주르 게임() formula_41이라고 한다.
제1 범주 집합.
위상 공간 formula_1 속의 집합족 formula_33가 만족시킬 수 있는 다음과 같은 성질 (∗)를 정의하자.
그렇다면, 위상 공간 formula_1의 임의의 부분 집합 formula_2에 대하여, 다음 세 조건들이 서로 동치이며, 이를 만족시키는 집합 formula_52를 formula_1의 제1 범주 집합이라고 한다.
위상 공간 formula_1의 제2 범주 집합(第二範疇集合, , )은 제1 범주 집합이 아닌 부분집합이다.
모든 제1 범주 집합의 여집합이 조밀 집합인 위상 공간을 베르 공간이라고 한다. 조밀한 곳이 없는 집합들과 열린집합들을 포함하는 최소의 시그마 대수의 원소를 준열린집합이라고 한다.
성질.
함의 관계.
위상 공간의 부분 집합에 대하여, 다음과 같은 함의 관계가 존재한다.
연산에 대한 닫힘.
다음이 성립한다.
즉, 조밀한 곳이 없는 집합들은 순서 아이디얼을 이루며, 제1 범주 집합들은 시그마 아이디얼을 이룬다.
측도와 제1 범주성의 관계.
측도와 범주 사이에는 다음과 같은 아날로지가 성립한다.
그러나 다음 정리와 같이, 측도와 범주는 서로 잘 호환되지 않는다.
증명:
유리수 집합의 곱집합과 자연수 집합 사이의 임의의 전단사 함수 formula_68을 생각하자. 이제, 다음과 같은 열린집합들의 열을 생각하자.
여기서 formula_70는 반지름 formula_71, 중심 formula_72의 열린 공이다.
그렇다면, 다음이 성립하는 것을 쉽게 알 수 있다.
이제 formula_75로 놓고 formula_76로 놓으면 된다.
증명:
집합
를 정의하면, 정의에 따라 다음이 성립한다.
따라서, 측도가 0인 것과 제1 범주 집합인 것은 둘 다 매우 ‘작은’ 집합임을 의미하지만, 이들은 매우 다른 개념인 것을 알 수 있다.
반면, 에르되시-시에르핀스키 정리(Erdős-Sierpiński定理, )에 따르면, 만약 연속체 가설이 성립한다면 다음 조건들을 모두 만족시키는 전단사 함수 formula_84가 존재한다.
즉, 연속체 가설이 성립한다면 영집합과 제1 범주 집합 사이의 아날로지가 완벽히 성립하는 것을 알 수 있다.
그러나 슈필라인 불가능성 정리에 따르면, 다음 두 조건을 만족시키는 전단사 함수 formula_90는 존재할 수 없다.
보렐 위계와의 관계.
위상 공간 formula_1의 부분 집합 formula_98에 대하여, 다음 두 조건이 서로 동치이다.
위상 공간 formula_1의 부분 집합 formula_98이 열린집합이며 조밀한 곳이 없는 집합이라면, formula_52는 공집합이다.
임의의 위상 공간 formula_1의 임의의 제1 범주 집합 formula_105에 대하여, formula_106인 제1 범주 집합 formula_107이 존재한다. (여기서 formula_108는 Fσ 집합들의 족이다.)
증명:
정의에 따라, formula_109은 가산 개의 조밀한 곳이 없는 집합 formula_110들의 합집합으로 나타낼 수 있다.
조밀한 곳이 없는 집합의 폐포는 (자명하게) 조밀한 곳이 없는 집합이므로,
로 놓으면 자명하게 formula_113이다.
예.
실수선 formula_114의 부분 집합으로서, 유리수의 집합 formula_115는 제1 범주 집합이다. 반면, 무리수의 집합은 제1 범주 집합이 아니다. 또한, 유리수의 집합은 스스로의 부분 집합 formula_116으로서도 제1 범주 집합이다. 따라서, 유리수의 공간은 베르 공간이 아니다.
실수선의 부분 집합으로서, 칸토어 집합은 제1 범주 집합이다. 그러나 스스로의 부분 집합으로서 칸토어 집합은 베르 범주 정리에 따라서 제1 범주 집합이 아니다.
집합 formula_117은 실수선의 조밀한 곳이 없는 집합이며, 닫힌집합이 아니다.
베르 공간 formula_118의 모든 콤팩트 집합은 조밀한 곳이 없는 집합이다.
귀류법을 사용하여, formula_119가 콤팩트 집합이지만, 조밀한 곳이 없는 집합이 아니라고 하자. formula_118은 하우스도르프 공간이므로, formula_88는 닫힌집합이다. 따라서 formula_122이며, formula_88는 다음과 같은 꼴의 열린집합을 포함한다.
이는 닫힌집합이기도 하므로, 콤팩트 집합이다. 하지만 그 열린 덮개
는 유한 부분 덮개를 갖지 않는다. 이는 모순이다.
역사.
제1 범주 집합의 개념은 르네루이 베르가 1899년 박사 학위 논문에서 도입하였다.
에르되시-시에르핀스키 정리는 1934년에 바츠와프 시에르핀스키가 대합 조건을 제외하고 증명하였으며, 이후 1943년에 에르되시 팔이 대합 조건을 추가하여 증명하였다. 슈필라인 불가능성 정리는 1934년에 에드바르트 마르체프스키(, 1907~1976)가 증명하였다. (마르체프스키의 본명은 에드바르트 슈필라인()이었지만, 1940년에 나치 독일의 유대인 박해를 피하여 ‘마르체프스키’로 개명하였다.)
바나흐-마주르 게임은 스타니스와프 마주르가 1935년에 도입하였다. 당시 리비우에 살던 수학자들은 슈코츠카 카페(, 는 (스코틀랜드)의 형용사형)에 모여서 수학 문제들을 토론하였으며, 토론에 의하여 얻은 결과들을 "슈코츠카 책"()이라는 노트에 기록하였다. 마주르의 게임의 필승 전략과 제1 범주성 사이의 관계는 슈코츠카 책의 43번 문제로 수록되었으며, 같은 책에서 스테판 바나흐가 1935년 8월 4일 증명하였다고 기록되었다. 그러나 바나흐는 이 증명을 기록하지 않았다.
이후 1957년에 존 옥스토비(, 1910~1991)가 마주르의 추측의 증명을 출판하였다.