Sur un problème concernant les fonctions continues.

Par

S. Mazurkiewicz et W. Sierpiński.

M. Banach demanda récemment que ce qu'on pourrait dire sur l'ensemble des valeurs qu'une fonction continue d'une variable réelle prend une infinité non dénombrable de fois. La réponse y est un peu innattendue: l'ensemble en question peut être même non mesurable (B); toutefois il est une projection d'un ensemble plan mesurable (B), pouvant être d'ailleurs quelconque (si l'on choisit convenablement la fonction continue). En d'autres mots: pour qu'un ensemble linéaire $E$ puisse être regardé comme l'ensemble des valeurs qu'une fonction continue d'une variable réelle prend une infinité non dénombrable de fois, il faut et il suffit qu'il soit un ensemble (A) de M. Souslin.

Le problème de M. Banach est étroitement lié avec le problème suivant:

P étant un ensemble plan fermé, ou, plus généralement, mesurable (B), quel est l'ensemble $N(P)$ de tous les nombres réels $b$, tels que la droite $y=b$ rencontre l'ensemble $P$ en une infinité non dénombrable de points <fnref n="1" />?

Dans le § 1 de ce travail nous prouverons que $E$ étant un ensemble (A) linéaire donné quelconque, il existe toujours un ensemble plan fermé $P$, tel que $N(P)=E$, et nous en tirerons quelques conséquences sur les ensembles linéaires qu'on obtient en couplant un ensemble plan fermé par des droites parallèles.

Dans le § 2 nous en déduirons que tout ensemble (A) linéaire peut être regardé comme l'ensemble des valeurs qu'une fonction continue d'une variable réelle prend une infinité non dénombrable de

<footnote n="1">¹) Cf. *Fund. Math.* t. V, p. 337, problème 28.</footnote>
fois. Dans le § 3 nous prouverons que P étant un ensemble plan mesurable (B), ou, plus généralement, un ensemble (A), l'ensemble N(P) est toujours un ensemble (A).

§ 1. Soit E un ensemble (A) linéaire donné. D'après un théorème de M. Lusin <fnref n="1" />) il existe une fonction f(x) définie dans l'ensemble X de tous les nombres irrationnels de l'intervalle (0, 1) et continue dans X, telle que E est l'ensemble de toutes les valeurs de f(x) pour xεX.

x étant un nombre de X, désignons par

$$x = \frac{1}{|n_1^x|} + \frac{1}{|n_2^x|} + \frac{1}{|n_3^x|} + \dots + \frac{1}{|n_k^x|} + \dots$$

son développement en fraction continue, et posons

$$\varphi(x) = \frac{1}{|n_2^x|} + \frac{1}{|n_4^x|} + \frac{1}{|n_6^x|} + \dots + \frac{1}{|n_{2k}^x|} + \dots$$

La fonction $\varphi(x)$ est ainsi définie dans l'ensemble X, et on voit sans peine qu'elle est continue dans X et que pour tout nombre $t$ de X l'ensemble de tous les nombres $x$ de X satisfaisant à l'équation

$$\varphi(x) = t$$

a la puissance du continu.

Posons $\Phi(x) = f(\varphi(x))$ — ce sera évidemment une fonction définie dans l'ensemble X et continue dans cet ensemble, et il résulte tout de suite de la propriété de la fonction $\varphi(x)$ que $\Phi(x)$ prend dans X une infinité de puissance du continu de fois toute valeur $y \in E$; or E étant l'ensemble de toutes les valeurs de $f(x)$ pour $x \in X$, il est évident que la fonction $\Phi(x) = f(\varphi(x))$ ne prend, pour $x \in X$, que des valeurs appartenant à E.

Désignons par Q l'ensemble formé de tous les points $(x, y)$ du plan, tels que $x \in X$ et $y = \Phi(x)$. On voit sans peine que l'ensemble de tous les nombres réels $b$ pour lesquels la droite $y = b$ rencontre l'ensemble Q en une infinité non dénombrable de points est précisément l'ensemble E. Or, posons

$$P = Q + Q'$$

— c'est donc un ensemble plan fermé.

<footnote n="1">¹) Voir p. o.: W. Sierpiński: *Bull. Acad. Cracovie* 1918, p. 163.</footnote>
La fonction $\Phi(x)$ étant continue dans $X$, on voit sans peine que l'abscisse de tout point de $P-Q=Q'-Q$ est rationnelle. Il en résulte que, pour tout nombre réel $b$, les ensembles de points, en lesquels la droite $y=b$ rencontre respectivement les ensembles $P$ et $Q$, ne diffèrent que par un ensemble au plus dénombrable. Par conséquent l'ensemble $N(P)$ de tous les nombres réels $b$ pour lesquels la droite $y=b$ rencontre l'ensemble $P$ en une infinité non dénombrable de points est le même que l'ensemble $N(Q)$: c'est donc l'ensemble $E$. Nous avons ainsi démontré la proposition suivante:

$E$ étant un ensemble (A) linéaire donné quelconquement, il existe toujours un ensemble plan fermé $P$, tel que $E$ est l'ensemble de tous les nombres réels $b$ pour lesquels la droite $y=b$ rencontre l'ensemble $P$ en une infinité non dénombrable de points.

Parmi les ensembles (A) il y a, comme on sait, des ensembles non mesurables (B)<fnref n="1" />: on en déduit donc qu'il existe un ensemble plan fermé $P$, tel que l'ensemble de toutes les droites parallèles à l'axe d'abscisses qui rencontrent $P$ en une infinité non dénombrable de points est non mesurable (B), et on pourrait même définir effectivement un tel ensemble.

Or, remarquons qu'on pourrait démontrer sans peine que l'ensemble de tous les nombres réels $b$, tels que la droite $y=b$ rencontre un ensemble plan fermé $P$ en une infinité de points, est toujours un $F_{\alpha\delta}$.

On dit qu'un ensemble fermé dénombrable $F$ est de l'ordre $\alpha$, si $\alpha$ est le plus petit nombre ordinal, tel que $F^{\alpha+1}=0$. On démontre que l'ordre d'un ensemble fermé dénombrable est toujours un nombre ordinal $\ge 0$ et $<\Omega$.

$P$ étant un ensemble plan fermé et $b$ un nombre réel donné, désignons par $P(b)$ l'ensemble des points en lesquels la droite $y=b$ rencontre l'ensemble $P$. On démontre sans peine (par l'induction transfinie) que, pour tout nombre ordinal $\alpha < \Omega$ donné, l'ensemble de tous les nombres réels $b$, tels que $P(b)$ est un ensemble (dénombrable) de l'ordre $\le \alpha$, est mesurable (B). Il en résulte tout de suite que si les ordres de tous les ensembles $P(b)$ qui sont dénombrables, sont bornés dans leur ensemble par un nombre ordinal

<footnote n="1">¹) Voir la note de M. Souslin dans les *Comptes Rendus*, t. 164 (note du 8 janvier 1917); aussi N. Lusin et W. Sierpiński: *Journal des Mathématiques 7e série t. II* (1923) p. 68.</footnote>
$<Ω$, l'ensemble de tous les nombres $b$ correspondant est mesurable (B), ce qui entraîne que l'ensemble $N(P)$ est mesurable (B). Par conséquent, si l'ensemble $N(P)$ est non mesurable (B), il existe pour tout nombre ordinal $α < Ω$ un nombre réel $b$, tel que $P(b)$ est un ensemble (dénombrable) de l'ordre $> α$. De l'existence des ensembles plans fermés $P$, pour lesquels l'ensemble $N(P)$ est non mesurable (B), résulte donc qu'il existe un ensemble plan fermé $P$, tel que les ordres des ensembles linéaires, en lesquels les droites parallèles à l'axe d'abscisses rencontrent $P$, ne sont bornés par aucun nombre transfini $<Ω$.

Soit $E$ un ensemble (A) linéaire donné, $P$ un ensemble plan fermé, tel que $N(P) = E$. Désignons, pour tout point $(x, y)$ du plan, par $f(x, y)$ la distance du point $(x, y)$ à l'ensemble $P$; $f(x, y)$ sera évidemment une fonction continue de deux variables réelles $x, y$, et nous aurons $f(x, y) = 0$ dans ce et seulement dans ce cas, lorsque $(x, y)$ est un point de $P$. On en déduit tout de suite que $N(P)$ est l'ensemble de tous les nombres réels $b$, tels que l'équation $f(x, b) = 0$ a une infinité non dénombrable de solutions en $x$. Donc, pour tout ensemble (A) linéaire $E$, il existe une fonction continue de deux variables réelles, $f(x, y)$, telle que $E$ est l'ensemble de tous ces nombres réels $b$, pour lesquels l'équation $f(x, b) = 0$ a une infinité non dénombrable de solutions en nombres réels $x$.

§ 2. $E$ étant un ensemble (A) linéaire borné donné, soit $P$ un ensemble plan fermé et borné, tel que $N(P) = E$. Soit $K$ un carré aux côtés parallèles aux axes de coordonnées renfermant l'ensemble $P$, et soit

$$x = \varphi(t), \quad y = \psi(t) \qquad (0 \le t \le 1)$$

la courbe continue de Peano remplissant le carré $K$: à tout point $(x, y)$ du carré $K$ correspond, comme on sait, au moins une moins une et au plus quatre valeurs de $t$, tels que $\varphi(t) = x$, $\psi(t) = y$ et $0 \le t \le 1$.

Désignons par $F$ l'ensemble de tous les nombres réels $t$ de l'intervalle $(0, 1)$ satisfaisant à la condition

$$(\varphi(t), \psi(t)) \in P$$

l'ensemble $F$ est évidemment fermé (puisque $P$ est fermé et borné). Définissons maintenant la fonction $f(t)$ d'une variable réelle $t$ dans
(0, 1) comme il suit. Pour $t \in F$ posons $f(t) = \psi(t)$. Or, soit (a, b) un intervalle contigu de l'ensemble fermé F: si $\psi(a) \neq \varphi(b)$, posons
$$f(t) = \psi(a) + t \frac{\psi(b) - \psi(a)}{b-a}$$
dans (a, b); si $\psi(a) = \psi(b)$, posons
$$f(t) = \psi(a) + t - a$$
pour $a < t \leqslant \frac{a+b}{2}$ et $$f(t) = \psi(a) + b - t$$
pour $\frac{a+b}{2} < t < b$. La fonction $\psi(t)$ étant continue dans (0, 1), on voit sans peine que $f(t)$ est une fonction continue dans (0, 1) et qu'elle prend au plus deux fois une même valeur dans tout intervalle (a, b) contigu à F: l'ensemble de tous ces intervalles étant au plus dénombrable, il en résulte que dans le complémentaire $G \setminus F$ (par rapport à l'intervalle (0, 1)) la fonction $f(t)$ prend une même valeur au plus une infinité dénombrable de fois. Donc, si, pour un nombre réel $b$ donné, il existe une infinité non dénombrable de nombres $t$, tels que $f(t) = b$ et $0 \leqslant t \leqslant 1$, il y en a une infinité non dénombrable qui appartiennent à $F$, donc pour lesquels $(\varphi(t), \psi(t)) \in P$ et $\psi(t) = f(t) = b$: les égalités $\varphi(t) = x$ et $\psi(t) = b$ ne subsistant, pour $x$ donné, que pour quatre au plus valeurs différentes de $t$, il en résulte tout de suite que la droite $y = b$ rencontre l'ensemble $P$ en une infinité non dénombrable de points.

Or, soit $b$ un nombre réel donné, tel que la droite $y = b$ rencontre $P$ en une infinité non dénombrable de points: la courbe $x = \varphi(t)$, $y = \psi(t)$ remplissant le carré $K \supset P$, il existe donc une infinité non dénombrable de nombres $t$, tels que $(\varphi(t), \psi(t)) \in P$ et $\psi(t) = b$, donc $t \in F$ et $f(t) = \psi(t) = b$.

D'après la propriété de l'ensemble $P$, il en résulte tout de suite que $E$ est l'ensemble de toutes les valeurs que la fonction $f(t)$ prend dans (0, 1) une infinité non dénombrable de fois. Nous arrivons ainsi à la proposition suivante:

Tout ensemble (A) linéaire borné peut être regardé comme l'ensemble de toutes les valeurs qu'une fonction continue d'une variable réelle prend dans (0, 1) une infinité non dénombrable de fois<fnref n="1" />).

<footnote n="1">¹) Il en résulte que le problème difficile concernant la puissance des ensembles complémentaires aux ensembles (A) peut être énoncé comme il suit: Quelle est la puissance de l'ensemble de toutes les valeurs qu'une fonction continue d'une variable réelle prend une infinité dénombrable de fois? (Ce problème est équivalent aux problèmes 9 (Fund. Math. t. I, p. 224) et 17 (Fund. Math. t. III, p. 322) posés par M. Lusin).</footnote>
§ 3. Théorème: Si E est un ensemble (A) plan, l'ensemble N(E) de tous les nombres réels b, tels que la droite y = b rencontre E en une infinité non dénombrable de points, est un ensemble (A).

Démonstration. Soit E un ensemble (A) plan donné. Il existe donc un système S d'ensembles plans fermés $\{F_{n_1, n_2, \dots, n_k}\}$, dont le noyau est E. En d'autres mots, E est la somme de tous les produits

$$F_{n_1} F_{n_2} F_{n_3} \dots F_{n_k} F_{n_{k+1}}$$

la sommation s'étendant à toutes les suites infinies de nombres naturels $n_1, n_2, n_3, \dots$. Nous pouvons encore supposer que les ensembles $F_{n_1, n_2, \dots, n_k}$ satisfont aux conditions:

$$F'_{n_1, n_2, \dots, n_k} \supset F_{n_1, n_2, \dots, n_k, n_{k+1}} \quad (1)$$

(pour tout système de nombres naturels $n_1, n_2, \dots, n_k$) et

$$\delta(F_{n_1, n_2, \dots, n_k}) < \frac{1}{k}, \quad (\text{pour } k=1, 2, 3, \dots) \quad (2)$$

$\delta(F)$ désignant le diamètre de l'ensemble F.

Le système d'indices $p_1, p_2, \dots, p_r$ étant fixe, appelons noyau de $F_{p_1, p_2, \dots, p_k}$ et désignons par $E^{p_1, p_2, \dots, p_r}$ le noyau du système

$$S^{p_1, p_2, \dots, p_r} = \{ F'_{n_1, n_2, \dots, n_k} \mid r \in \mathbb{N} \}$$

où

$$F'_{n_1, n_2, \dots, n_k} = F_{p_1, p_2, \dots, p_r, n_1, n_2, \dots, n_k} \quad \text{pour } n_1, n_2, \dots, n_k = 1, 2, 3, \dots$$

Nous dirons que l'ensemble $F'_{n_1, n_2, \dots, n_k}$ jouit de la propriété 1' par rapport au système $p_1, p_2, \dots, p_r$, si l'ensemble $E^{p_1, p_2, \dots, p_r, m_1, m_2, \dots, m_k}$ est non dénombrable et s'il existe un système d'indices $q_1, q_2, \dots, q_s$, tel que l'ensemble $E^{q_1, q_2, \dots, q_s}$ est non dénombrable et que $F'_{m_1, m_2, \dots, m_k} \cdot F'_{r_1, r_2, \dots, r_k} = 0$.

Rangeons les ensembles formant S en une suite simplement infinie $\Sigma$.

Déterminons un système d'ensembles fermés $S_1 = \{H_{n_1, n_2, \dots, n_k}\}$ de manière suivante.

I) $H_n$ est le n-ième élément de la suite $\Sigma$, soit $F_{n_1, n_2, \dots, n_r}$, tel que l'ensemble $E^{p_1, p_2, \dots, p_r}$ est non dénombrable.

<footnote n="1">1) V. p. e. Fund. Math. t. V, p. 156 et p. 160.</footnote>
II) Soit maintenant $s$ un nombre naturel donné, et supposons que nous avons déjà défini tous les ensembles $H_{n_1, n_2, ..., n_k}$ pour $k < 2s$, et que $H_{n_1, n_2, ..., n_s} = F_{p_1, p_2, ..., p_r}$ (les nombres $r$ et $p_1, p_2, ..., p_r$ dépendant du système $n_1, n_2, ..., n_s$). Nous définirons $H_{n_1, n_2, ..., n_{2c-1}, n_{2c}}$ comme le $n_{2c}$-ième élément de $\Sigma$ de la forme $F_{m_1, m_2, ..., m_r}^{p_1, p_2, ..., p_r}$ jouissant de la propriété $\hat{P}$ par rapport à $p_1, p_2, ..., p_r$ et $H_{n_1, n_2, ..., n_{2c}, n_{2c+1}}$ comme le $n_{2c+1}$-ième élément de $\Sigma$ de la forme $F_{l_1, l_2, ..., l_r}^{p_1, p_2, ..., p_r}$, tel que l'ensemble $E^{p_1, p_2, ..., p_r, l_1, l_2, ..., l_r}$ est non dénombrable et que

$$ (3) \qquad H_{n_1, n_2, ..., n_{2c}} \cdot H_{n_1, n_2, ..., n_{2c}, n_{2c+1}} = 0. $$

D'après (1) et (2) on voit sans peine que les ensembles $H_{n_1, n_2, ..., n_k}$ existent pour tout système fini d'indices $n_1, n_2, ..., n_k$.

Désignons par $K_{n_1, n_2, ..., n_k}$ la projection de l'ensemble $H_{n_1, n_2, ..., n_k}$ sur l'axe d'ordonnées: c'est un ensemble linéaire fermé. Le système $S_2=\{K_{n_1, n_2, ..., n_k}\}$ détermine donc un ensemble (A) (linéaire) que nous désignerons par Q. Il suffit de démontrer que $Q = N(E)$.

Soit $b$ un élément de Q. Il existe donc une suite infinie d'indices $q_1, q_2, q_3, ..., telle que

$$ (4) \qquad b \in K_{q_1, q_2, ..., q_k} \qquad (k=1, 2, 3, \dots) $$

Soit $a_1, a_2, a_3, ...$ une suite infinie, formée de nombres 0 et 1.
Posons

$$ (5) \quad k_h = 2^h + 2^{h-1}a_1 + 2^{h-2}a_2 + \dots + 2a_{h-1} + a_h \quad \text{pour } h=1, 2, 3, \dots $$

De (5) résulte que

$$ (6) \quad k_{h+1} = 2k_h + a_{h+1} \quad \text{pour } h=1, 2, 3, \dots, $$

et il s'ensuit de la définition des ensembles $H_{n_1, n_2, ..., n_{2c}}$ et $H_{n_1, n_2, ..., n_{2c}+1}$ et de (1) et (2) que

$$ H_{q_1, q_2, \dots, n_{k_h}} \supset H_{q_1, q_2, \dots, q_{k_h+1}} \quad (h=1, 2, 3, \dots) $$

et

$$ \lim_{h \to \infty} \delta(H_{q_1, q_2, \dots, q_{k_h}}) = 0. $$

Par conséquent $H_{q_1, q_2, \dots, q_{k_h}} (h=1, 2, 3, \dots)$ est une suite descendante d'ensembles fermés qui converge vers un point

$$ (7) \qquad \pi = \prod_{h=1}^{\infty} H_{q_1, q_2, \dots, q_{k_h}} $$
Or, de la définition des ensembles $H_{n_1, n_2, ..., n_k}$ résulte qu'il existe une suite infinie d'indices $p_1, p_2, p_3, ...$, telle que la suite $H_{q_1, q_2, ..., q_k}$ est extraite de la suite $F_{p_1, p_2, ..., p_k}$ Par conséquent, d'après (1):

$$ \pi \in E. $$

L'ensemble $K_{q_1, q_2, ..., q_k}$ étant une projection de l'ensemble $H_{q_1, q_2, ..., q_k}$ sur l'axe d'ordonnées, il résulte tout de suite de (4) et (7) que l'ordonnée du point $\pi$ est $b$.

Or, soit $\alpha'_1, \alpha'_2, \alpha'_3, ...$ une suite infinie de nombres 0 et 1 distincte de la suite $\alpha_1, \alpha_2, \alpha_3, ...$, et désignons par $\pi'$ le point de $E$ corespondant à cette suite. On voit sans peine que $\pi' \neq \pi$. En En effet, soient $\alpha_m$ et $\alpha'_m$ les premiers termes inégaux des suites considérées. Nous avons donc $\alpha_k = \alpha'_k$ pour $k = 1, 2, ..., m-1$ et $\alpha_m \neq \alpha'_m$, p. e. $\alpha_m = 0$ et $\alpha'_m = 1$; donc, en posant

$$ k'_n = 2^n + 2^{n-1}\alpha'_1 + \dots + 2\alpha'_{n-1} + \alpha'_{n-2} $$

nous aurons, d'après (5) et (6):

$$ k_m = 2k_{m-1} + \alpha_m \quad \text{et} \quad k'_m = 2k_{m-1} + \alpha'_m, $$

donc

$$ k_m = 2k_{m-1} = 2s \quad \text{et} \quad k'_m = 2k_{m-1} + 1 = 2s + 1. $$

Or, d'après (7), $\pi \in H_{q_1, q_2, ..., q_{2s}}$ et $\pi' \in H_{q_1, q_2, ..., q_{2s+1}}$, donc $\pi \neq \pi'$, puisque, d'après (3), $H_{q_1, q_2, ..., q_{2s}} H_{q_1, q_2, ..., q_{2s+1}} = 0$.

A toute suite infinie $\alpha_1, \alpha_2, \alpha_3, ...$ formée de nombres 0 et 1 correspond donc un point $\pi$ de $E$ à l'ordonnée $b$ et aux suites différentes correspondent des points distincts. Il en résulte que la droite $y=b$ rencontre l'ensemble $E$ en une intérité non dénombrable de points, donc $b \in N(E)$. Nous avons donc démontré que $Q \subset N(E)$.

Or, soit $b$ un élément de $N(E)$. Désignons par $D$ l'ensemble de tous les points de la droite $y=b$ et posons $\Phi_{n_1, n_2, ..., n_k} = DF_{n_1, n_2, ..., n_k}$. Le système d'ensembles fermés $\{\Phi_{n_1, n_2, ..., n_k}\}$ détermine un ensemble (A) non dénombrable $DE$. Définissons la suite infinie d'indices $n_1, n_2, n_3, ...$ de manière suivante:

I) $n_1$ est le premier nombre naturel, tel que le noyau de $DH_{n_1}$ est non dénombrable.

II) soit maintenant $s$ un nombre naturel donné et supposons que nous avons déjà défini les indices $n_1, n_2, ..., n_{2s-1}$, et supposons que $H_{n_1, n_2, ..., n_k} = F_{p_1, p_2, ..., p_k}$ et que le noyau de $\Phi_{p_1, p_2, ..., p_k}$ est non dénombrable. Les ensembles $H_{n_1, n_2, ..., n_{2s-1}}$ sont, pour $n=1, 2, 3, ...$, de
la forme $\mathcal{H}_{m_1^{p_1}, m_2^{p_2}, \dots, m_n^{p_n}}^{p_1 p_2 \dots p_r}$. Nous définirons $n_s$ comme le plus petit indice $n$, tel que l'ensemble $\Phi_{m_1^{p_1}, m_2^{p_2}, \dots, m_n^{p_n}}^{p_1 p_2 \dots p_r}$ jouit de la propriété $P$ par rapport au système $p_1, p_2, \dots, p_r$, et $n_{2\varepsilon+1}$ comme le plus petit indice $n$, tel que le noyau de $DH_{n_1, n_2, \dots, n_{2\varepsilon}}$ est non dénombrable.

On voit sans peine, d'après $b \in N(E)$ et d'après la définition des ensembles $H_{n_1, n_2, \dots, n_s}$, que la suite infinie $n_1, n_2, n_3, \dots$ existe. Or on a, d'après leur définition:

$$DH_{n_1, n_2, \dots, n_s} \neq 0 \quad \text{pour } s = 1, 2, 3, \dots,$$

donc

$$b \in K_{n_1, n_2, \dots, n_s} \quad \text{pour } s = 1, 2, 3, \dots,$$

et parsuite $b \in Q$.

Nous avons donc démontré que $N(E) \subset Q$, et puisque nous avons prouvé plus haut que $Q \subset N(E)$, nous trouvons $Q = N(E)$, c. q. f. d.

Notre théorème est ainsi démontré.