Категория Бэра

Категория Бэра — один из способов различать «большие» и «маленькие» множества.
Подмножество топологического пространства может быть первой или второй категории Бэра.

Названа в честь французского математика Рене-Луи Бэра.

Определения 
 Топологические пространства, допускающие счётное покрытие нигде не плотными подмножествами, относятся к пространствам первой категории Бэра, не допускающие такого покрытия — к пространствам второй категории Бэра.
 Подмножество топологического пространства , которое можно представить в виде счётного объединения нигде не плотных в  множеств, называется множеством первой категории Бэра в пространстве .
 Множество, которое нельзя представить в таком виде, называется множеством второй категории Бэра в пространстве .
 Топологическое пространство, в котором любое множество первой категории не содержит внутренних точек, называется пространством Бэра.

Свойства 
Для целей анализа удобно, когда рассматриваемое пространство относится ко второй категории Бэра, так как отнесение к этой категории равносильно справедливости теорем существования, таких как:
 Если пространство второй категории Бэра покрыто счётным семейством замкнутых множеств, то хотя бы одно из них имеет внутреннюю точку (теорема существования внутренней точки).
 В пространстве второй категории Бэра всякое счётное семейство открытых всюду плотных множеств имеет непустое пересечение (теорема существования общей точки).

Если всё-таки пространство относится к первой категории Бэра, из этого можно получить лишь результаты отрицательного характера — например, всякая метрика на этом пространстве, совместимая с топологией, неполна, а замыкание любого (непустого) открытого подмножества некомпактно. По этой причине, например, пространство многочленов неполно в любой метрике, в которой оно является топологическим векторным пространством (счётномерное векторное пространство во всякой векторной топологии относится к первой категории Бэра).

Применение категорий Бэра к подмножествам заданного топологического пространства имеет смысл, если объемлющее пространство относится ко второй категории Бэра (иначе все подмножества будут первой категории в данном пространстве). Грубо говоря, множества первой категории считаются «маленькими» («тощими»), а второй — «большими» («тучными»).

В этом смысле понятие категории напоминает понятие меры, однако в отличие от меры, категория подмножества зависит только от топологии объемлющего пространства.

Это делает удобным её применение в пространствах без естественно определённой меры.
Например, используя категорию, можно придать точный смысл таким понятиям, как «почти все компактные выпуклые подмножества евклидова пространства».

Теорема Бэра 
Теорема. Полные метрические пространства и локально компактные хаусдорфовы пространства относятся к пространствам второй категории Бэра.

Для доказательства достаточно показать, что всякое счётное семейство открытых всюду плотных множеств  имеет непустое пересечение.

В случае полного метрического пространства индуктивно строится последовательность шаров  такая, что при каждом   и радиус шара  был бы меньше, чем . Последовательность стягивающихся замкнутых шаров имеет непустое пересечение в силу полноты пространства, и общая точка этих шаров будет общей и для множеств .

В случае локально компактного хаусдорфова пространства индуктивно строится последовательность открытых множеств  такая, что при каждом   и замыкание множества  компактно. Тогда последовательность множеств  образует центрированную систему замкнутых подмножеств в компактном хаусдорфовом пространстве  и потому имеет непустое пересечение.

Пример. В качестве приложения категорий Бэра, можно показать, что множество иррациональных точек  не может быть множеством всех точек разрыва никакой функции на числовой прямой. Множество всех точек разрыва любой функции  на  является счётным объединением замкнутых множеств , состоящих из тех точек, в которых колебание функции  не меньше, чем . Если бы искомая функция существовала, множества  были бы нигде не плотными, так как их объединение не имеет внутренних точек. Из этого получалось бы, что множество  первой категории в , а так как его дополнение тоже имеет первую категорию, то и всё пространство  было бы первой категории, что противоречит его полноте.

См. также 
G-дельта-множество

Ссылки 
 Окстоби Дж. Мера и категория. — Перев. с англ. — М.: Мир, 1974. — 157 с.

Общая топология
Метрическая геометрия