# Démonstration d'un théoreme de M. Baire sur les fonctions représentables analytiquement.

Par
Wacław Sierpiński (Warszawa).

Le but de cette Note est de démontrer sans l'aide des nom-
bres transfinis et sans utiliser la théorie des ensembles mesu-
rables B le suivant théorème de M. Baire<fnref n="1" />:

Toute fonction représentable analytiquement est ponctuellement discontinue sur tout ensemble parfait, quand on néglige les ensembles de I-e catégorie par rapport à cet ensemble.

Nous entendons par fonction représentable analytiquement chaque fonction $f(x)$ de variable réelle qui appartient à tout ensemble $K$ de fonctions satisfaisant aux deux conditions suivantes:

1. toute fonction continue appartient à $K$,

2. toute fonction qui est limite d'une suite infinie de fonctions appartenant à $K$ appartient à $K$.

<footnote n="1">1) Voir H. Lebesgue, *Sur les fonctions représentables analytiquement*, Journal de Mathématiques, 6-ième série, T. I, p. 188.</footnote>
On montre sans peine qu'une fonction représentable analytiquement d'après cette définition rentre dans la classification de M. Baire et réciproquement <fnref n="1" />). La démonstration utilise, bien entendu, les nombres transfinis <fnref n="2" />).

Nous dirons, pour abréger, qu'une fonction $f(x)$ jouit de la propriété $P$ sur un ensemble $E$, si elle est continue sur $E$ quand on néglige les ensembles de I-e catégorie par rapport à $E$, c. à d., s'il existe un ensemble $N$ de I-e catégorie par rapport à $E$ tel que $f(x)$ est continue sur l'ensemble $E—N$.

Soient $E$ un ensemble parfait donné et $f(x)$ une fonction qui est limite d'une suite infinie de fonctions $f_n(x)$:

$$ (1) \qquad f(x) = \lim_{n=\infty} f_n(x), $$

où chacune des fonctions $f_n(x)$ jouit de la propriété $P$ sur $E$. Il existe donc, pour tout indice $n=1,2,...$, un ensemble $N_n$ de I-e catégorie par rapport à $E$ tel que $f_n(x)$ est continue sur $E—N_n$. L'ensemble $N_1+N_2+N_3+...$ est de I-e catégorie par rapport à $E$ (comme somme d'une infinité dénombrable d'ensembles de I-e catégorie par rapport à $E$); nous pouvons donc écrire

$$ N_1+N_2+N_3+... = M_1+M_2+M_3+... $$

où $M_n$ sont (pour $n=1,2,...$) des ensembles non-denses par rapport à $E$. L'ensemble

$$ S = M_1+M'_1+M_2+M'_2+M_3+M'_3+... $$

est encore de I-e catégorie par rapport à $E$ (puisque les ensembles $M_n$, donc aussi leurs dérivés $M'_n$, sont non-denses par rapport à $E$).

Nous allons montrer que, quel que soit un nombre donné $\alpha>0$, l'ensemble $G_\alpha$ de tous les points $x$ de $E—S$ en lesquels l'oscillation de $f(x)$ relative à $E—S$ est $\geq\alpha$ est non-dense par rapport à $E—S$.

<footnote n="1">¹) Cf. mon Mémoire *L'axiome de M. Zermelo et son rôle dans la théorie des ensembles et l'analyse*, Bull. de l'Acad. Sc. de Cracovie 1918, p. 137.</footnote>

<footnote n="2">²) En partant d'une définition axiomatique des ensembles mesurables $B$ que j'ai proposée dans le Bull. de l'Acad. Sc. de Cracovie 1918, p. 29, on peut montrer sans l'aide des nombres transfinis que toute fonction représentable analytiquement est mesurable $B$ et réciproquement.</footnote>
Supposons par contre que l'ensemble $G_α$ ne soit pas non-dense sur $E-S$. Il existerait alors un intervalle $δ$ contenant à son intérieur des points de $E-S$ et tel que l'ensemble $G_α$ est dense sur $(E-S) \cdot δ$.

Or, on voit sans peine que l'ensemble $G_α$ est fermé dans $E-S$; il en résulte tout de suite que tous les points de $E-S$ intérieurs à $δ$ appartiennent à $G_α$. Soit $x_1$ un tel point.

D'après (1), il existe un indice $n_1$ tel que

$$|f_{n_1}(x_1) - f(x_1)| < \alpha/16.$$

La fonction $f_{n_1}(x)$ étant continue sur $E-N_{n_1}$, donc à plus forte raison sur $(E-S) \cdot δ$ (puisque $N_{n_1} \subset S$), il existe, pour le point $x_1$ de $E-S$ intérieur à $δ$, un intervalle $d_1$ entourant $x_1$, contenu dans $δ$ et tel que l'oscillation de $f_{n_1}(x)$ sur $(E-S) \cdot d_1$ est $<α/16$.

L'ensemble $S_1 = M_1 + M'_1$ étant évidemment fermé et non-dense par rapport à $E$ et $x_1$ appartenant à $E-S$, donc à plus forte raison à $E-S_1$, il existe un intervalle $δ_1$ entourant $x_1$, contenu dans $d_1$ et ne contenant aucun point de $S_1$. L'oscillation de $f(x)$ sur $E-S$ étant $\geqslant \alpha$ en tout point de $(E-S) \cdot δ$, donc aussi au point $x_1$, il existe un point $x_2$ de $E-S$, intérieur à $δ_1$ et tel que

$$|f(x_1) - f(x_2)| > \alpha/3.$$

D'après (1), il existe un indice $n_2 > n_1$ tel que

$$|f_{n_2}(x_2) - f(x_2)| < \alpha/16.$$

La fonction $f_{n_2}(x)$ étant continue sur $E-S$ et le point $x_2$ de $E-S$ étant intérieur à $δ_1$, il existe un intervalle $d_2$ entourant $x_2$, contenu dans $δ_1$ et tel que l'oscillation de $f_{n_2}(x)$ sur $(E-S) \cdot d_2$ est $<\alpha/16$.

L'ensemble $S_2 = M_1 + M'_1 + M_2 + M'_2$ étant fermé et non-dense par rapport à $E$ et $x_2$ appartenant à $E-S$, donc aussi à $E-S_2$, il existe un intervalle $δ_2$ entourant $x_2$, contenu dans $d_2$ et ne contenant aucun point de $S_2$. L'oscillation de $f(x)$ sur $E-S$ étant $\geqslant \alpha$ au point $x_2$, il existe un point $x_3$ de $E-S$, intérieur à $δ_2$ et tel que

$$|f(x_2) - f(x_3)| > \alpha/3.$$
En raisonnant ainsi de suite, nous arrivons à une suite infinie d'intervalles dont chacun est contenu dans le précédent:

$$ (2) \qquad \delta, d_1, \delta_1, d_2, \delta_2, d_3, \delta_3, \dots $$

et à deux suites infinies: de points $x_1, x_2, x_3, \dots$ et d'indices croissants $n_1, n_2, n_3, \dots$, telles que les conditions suivantes se trouvent remplies pour tout $k$ naturel: l'intervalle $\delta_k$ ne contient aucun point de

$$ S_k = M_1 + M'_1 + M_2 + M'_2 + \dots + M_k + M'_k, $$

le point $x_k$ est intérieur à $\delta_k$, on a

$$ (3) \qquad |f_{n_k}(x_k) - f(x_k)| < \alpha/16 $$

et

$$ (4) \qquad |f(x_k) - f(x_{k+1})| > \alpha/3; $$

enfin, l'oscillation de $f_{n_k}(x)$ sur $(E-S) \cdot d_k$ est $<\alpha/16$.

Nous pouvons évidemment supposer que les intervalles (2) convergent vers un point $\xi$. Le point $\xi$ est donc un point d'accumulation de la suite $x_1, x_2, x_3, \dots$ (puisque $x_k$ est intérieur à $\delta_k$), c. à d. un point d'accumulation de $E$ et par conséquent un point de $E$, puisque $E$ est parfait. Or, $\xi$ appartient à tout intervalle $\delta_k$, donc $\xi$ n'appartient pas à $S_k$ pour $k=1,2,\dots$; par suite $\xi$ n'appartient pas à $S$. Ainsi, le point $\xi$ appartient à $E-S$.

L'oscillation de $f_{n_k}(x)$ sur $(E-S) \cdot d_k$ étant $<\alpha/16$ et les points $x_k$ et $\xi$ appartenant à $d_k$ et à $E-S$, nous trouvons

$$ (5) \qquad |f_{n_k}(\xi) - f_{n_k}(x)| < \alpha/16, $$

d'où selon (3)

$$ (6) \qquad |f_{n_k}(\xi) - f(x_k)| < \alpha/8 $$

et, de même,

$$ (7) \qquad |f_{n_{k+1}}(\xi) - f(x_{k+1})| < \alpha/8. $$
Les formules (6) et (7) donnent en vertu de (4)

$$|f_{n_k}(\xi) - f_{n_{k+1}}(\xi)| > \frac{a}{12} \quad \text{pour } k=1,2,...,$$

ce qui est impossible, puisque la suite $f_{n_k}(\xi)$ où $k=1,2,...$ est convergente en raison de (1).

Nous avons ainsi démontré que l'ensemble $G_\alpha$ de tous les points $x$ de $E-S$ en lesquels l'oscillation de $f(x)$ sur $E-S$ est $\ge a$ est non-dense sur $E-S$. Il en résulte tout de suite que l'ensemble $G$ de tous les points $x$ de $E-S$ en lesquels l'oscillation de $f(x)$ sur $E-S$ est $> 0$, c. à d. l'ensemble de tous les points de $E-S$ en lesquels la fonction $f(x)$ est discontinue par rapport à $E-S$, est de I-e catégorie par rapport à $E-S$ (puisque $G = G_1 + G_{1/2} + G_{1/3} + ...$).

La fonction $f(x)$ est donc en tout point de $E-S-G$ continue par rapport à l'ensemble $E-S$ et par conséquent par rapport à $E-S-G$. Ainsi, elle est continue sur l'ensemble parfait $E$, quand on néglige l'ensemble $S+G$, qui est de I-e catégorie par rapport à $E$.

Nous avons donc démontré que si la fonction $f(x)$ est limite d'une suite de fonctions $f_n(x)$ ($n=1,2,...$) dont chacune jouit de la propriété $P$ sur un ensemble parfait $E$, la fonction $f(x)$ jouit elle-même de la propriété $P$ sur $E$.

Désignons maintenant par $K_0$ l'ensemble de toutes les fonctions $f(x)$ d'une variable réelle $x$ jouissant de la propriété $P$ sur tout ensemble parfait. Comme nous venons de démontrer, l'ensemble $K_0$ satisfait aux conditions 1º et 2º. Il s'en suit donc en vertu de la définition des fonctions représentables analytiquement (que nous avons adoptée) que toute fonction représentable analytiquement appartient à l'ensemble $K_0$ et, par conséquent, jouit de la propriété $P$ sur tout ensemble parfait.

Le théorème suivant se trouve ainsi établi:

**Théorème.** Toute fonction représentable analytiquement est continue sur tout ensemble parfait, quand on néglige les ensembles de I-e catégorie par rapport à cet ensemble.
M. Lebesgue a posé (1. c.) le problème suivant: la condition nécessaire, fournie par le théorème de M. Baire, est-elle suffisante?

Or, M. N. Lusin a démontré en 1914 <fnref n="1" />) que l'hypothèse du continu entraîne l'existence d'une fonction satisfaisant à la condition de M. Baire, mais non représentable analytiquement.

En 1917 M. Lusin a obtenu le même résultat, sans s'appuyer sur l'hypothèse du continu <fnref n="2" />).

En partant de la définition des fonctions représentables analytiquement, donnée plus haut, on peut établir sans l'aide des nombres transfinis plusieurs autres propriétés de ces fonctions. En effet, pour démontrer que toute fonction représentable analytiquement jouit d'une propriété donnée $P_0$, il suffit de montrer que

1) toute fonction continue jouit de la propriété $P_0$,

2) si la fonction $f(x)$ est limite d'une suite de fonctions dont chacune jouit de la propriété $P_0$, $f(x)$ jouit de la propriété $P_0$.

A titre d'exemple, nous démontrons ici la propriété suivante:

*Une fonction représentable analytiquement d'une fonction représentable analytiquement est elle-même représentable analytiquement.*

A ce but, nous dirons d'abord qu'une fonction $\psi(x)$ jouit de la propriété $P_0$, si, pour toute fonction continue $\varphi(x)$, la fonction $f(x)=\varphi(\psi(x))$ est représentable analytiquement. La propriété $P_0$ ainsi définie satisfait aux conditions 1) et 2). En effet:

1) si les fonctions $\psi(x)$ et $\varphi(x)$ sont continues, la fonction $f(x)=\varphi(\psi(x))$ est aussi continue, donc représentable analytiquement;

2) si la fonction $\varphi(x)$ est continue et $\psi(x) = \lim_{n \to \infty} \psi_n(x)$, où les fonctions $\psi_n(x)$ jouissent de la propriété $P_0$, les fonctions $f_n(x) = \varphi(\psi_n(x))$ sont représentables analytiquement et, par conséquent, la fonction $\varphi(\psi(x)) = \lim_{n \to \infty} \varphi(\psi_n(x))$ l'est également.

Il est ainsi établi que toute fonction continue d'une fonction représentable analytiquement est représentable analytiquement.

Convenons à présent de dire qu'une fonction $\varphi(x)$ jouit de la propriété $P_0^*$, si, pour toute fonction $\psi(x)$ représentable analytiquement, la fonction $f(x)=\varphi(\psi(x))$ est représentable analytiquement. Comme nous venons de montrer, la propriété $P_0^*$ satisfait à la condition 1).

<footnote n="1">1) C. R. Paris, 158, p. 1259.</footnote>

<footnote n="2">2) Voir la note de M. N. Lusin dans Fund. Math. 2, p. 163.</footnote>
Soit maintenant

$$ (8) \qquad \varphi(x) = \lim_{n \to \infty} \varphi_n(x), $$

où les fonctions $\varphi_n(x)$ jouissent de la propriété $P_*^*$; soit $\psi(x)$ une fonction représentable analytiquement.

La formule (8) subsistant pour tout $x$ réel, remplaçons dans cette formule $x$ par $\psi(x)$, d'où $\varphi(\psi(x)) = \lim_{n \to \infty} \varphi_n(\psi(x))$. Or, les fonctions $\varphi_n(x)$ jouissant de la propriété $P_*^*$, les fonctions $\varphi_n(\psi(x))$ sont représentables analytiquement, ainsi que leur limite $\varphi(\psi(x))$. La fonction $\varphi$ jouit donc de la propriété $P_*^*$, de sorte que la propriété $P_*^*$ satisfait à la condition 2), ce qui achève la démonstration.