# Sur une équation fonctionnelle (II)

par D. BRYDAK (Kraków)

Le sujet de ce travail est l'équation fonctionnelle

$$ (1) \qquad \varphi\{F[x, \varphi(x)]\} = \varphi(x), $$

où $\varphi(x)$ est la fonction inconnue et $F(x, y)$ est une fonction donnée. Dans le travail [1] j'ai présenté quelques résultats concernant l'équation (1) sous l'hypothèse que la fonction $F(x, y)$ est strictement croissante par rapport à la première variable. Dans le travail présent je vais donner quelques théorèmes concernant les solutions continues de l'équation (1) à l'aide des résultats contenus dans [1].

Nous admettrons dans la suite les hypothèses (H) suivantes:

1. $F(x, y)$ est définie et continue dans un rectangle

$$ K = \langle \alpha, \beta \rangle \times (\gamma, \delta). $$

2. $F(x, y)$ est une fonction strictement décroissante par rapport à la première variable et strictement monotone par rapport à la deuxième variable.

3. $F(x, y) \in \langle \alpha, \beta \rangle$ pour $x \in \langle \alpha, \beta \rangle$ et $y \in (\gamma, \delta)$.

4. La fonction

$$ (2) \qquad F_2(x, y) \stackrel{\text{df}}{=} F[F(x, a), y] $$

est une fonction strictement monotone par rapport à la deuxième variable.

Il est facile de vérifier le

LEMME 1. 1.° La fonction $F_2(x, y)$ est continue sur le rectangle $K$.

2.° $F_2(x, y) \in \langle \alpha, \beta \rangle$ pour $x \in \langle \alpha, \beta \rangle$ et $y \in (\gamma, \delta)$.

3.° $F_2(x, y)$ est une fonction strictement croissante par rapport à la première variable.

4.° $F_2(x, y)$ satisfait sur $K$ à la formule suivante:

$$ (3) \qquad F[F_2(x, y), y] = F_2[F(x, y), y]. $$

Posons

$$ (4) \qquad F_1(x, y) \stackrel{\text{df}}{=} F(x, y). $$
**DÉFINITION 1.** Pour une fonction $F(x, y)$ et $K$ fixé désignons

$$E_i = \{x: x \in \langle\alpha, \beta\rangle \text{ et } \bigvee y \in (\gamma, \delta) \text{ et } F_i(x, y) = x\} \quad \text{pour } i = 1, 2.$$

**LEMME 2.** 1° Les ensembles $E_i \setminus \{a\} \cup \{\beta\}) (i = 1, 2)$ sont ouverts, 2° $E_1 \subset E_2$.

**Démonstration.** La démonstration du point 1° est analogue à celle du lemme 5 dans le travail [1]. Nous allons démontrer le point 2°. Soit $x_0 \in E_1$. Alors, il existe, en vertu de la définition 1, un $y_0 \in (\gamma, \delta)$ tel que $F(x_0, y_0) = x_0$. Il en résulte, en vertu de (2), que

$$F_2(x_0, y_0) = F[F(x_0, y_0), y_0] = F(x_0, y_0) = x_0,$$

d'où $x_0 \in E_2$, encore en vertu de la définition 1.

Les fonctions $F_1$ et $F_2$ étant strictement monotones par rapport à $y$, nous voyons que pour tout $x \in E_i$ ($i = 1, 2$) il existe un point $y$ unique, tel que $y \in (\gamma, \delta)$ et $F_i(x, y) = x$.

Alors nous pouvons introduire la

**DÉFINITION 2.** Pour une fonction $F(x, y)$ et $K$ fixé désignons par $\varphi_i(x)$ la fonction définie sur $E_i$ par la relation

$$F_i[x, \varphi_i(x)] = x, \quad i = 1, 2.$$

Les propriétés des fonctions $\varphi_i(x)$ sont établies dans le

**LEMME 3.** La fonction $\varphi_i(x)$ est continue sur $E_i$ et elle satisfait sur $E_i$ à l'équation

$$(5) \qquad \varphi_i\{F_i[x, \varphi_i(x)]\} = \varphi_i(x) \quad \text{pour } i = 1, 2.$$

La démonstration du lemme 3 est analogue à celle du lemme 6 dans [1].

**LEMME 4.** Si $x \in E_1$, alors $\varphi_1(x) = \varphi_2(x)$.

Ce lemme est une conclusion immédiate des définitions 1 et 2.

**LEMME 5.** Soit $E_1 \neq \emptyset$. Si $F(x, y)$ est strictement croissante (strictement décroissante) par rapport à la deuxième variable, alors $\varphi_1(x)$ est strictement croissante (strictement décroissante) sur $E_1$.

**Démonstration.** Soit $F(x, y)$ une fonction strictement croissante par rapport à la deuxième variable. Supposons qu'il existe deux points, $x_1$ et $x_2$, tels que $x_1 < x_2$, $x_1, x_2 \in E_1$, et $\varphi_1(x_1) \ge \varphi_1(x_2)$. Alors

$$x_1 = F[x_1, \varphi_1(x_1)] \ge F[x_1, \varphi_1(x_2)] > F[x_2, \varphi_1(x_2)] = x_2.$$

Cette contradiction démontre que pour $x_1, x_2 \in E$ et $x_1 < x_2$ nous avons $\varphi_1(x_1) < \varphi_1(x_2)$.

On démontre de façon analogue le lemme 5 dans le cas où $F(x, y)$ est une fonction strictement décroissante par rapport à la deuxième variable.
Avant de donner les théorèmes établissant les propriétés des solutions continues de l'équation (1), nous allons donner quelques définitions. Le terme "intervalle fermé" désignera, dans ce travail, un intervalle fermé, dont les extrémités sont distinctes.

**DÉFinition 3.** Un ensemble $\mathbf{R}$ d'intervalles fermés appartient à la famille $\mathbf{R}$, si et seulement si

1° Si $I \in \mathbf{R}$, alors $I \subset \langle \alpha, \beta \rangle$.

2° Si $I_1, I_2 \in \mathbf{R}$, alors $I_1 = I_2$ ou $I_1 \cap I_2 = \emptyset$.

3° Si $I \in \mathbf{R}$, alors $I \neq \langle \alpha, \beta \rangle$.

4° $\langle \alpha, \beta \rangle \setminus E_2 \subset \bigcup_{I \in \mathbf{R}} I$.

5° Si $\langle a, b \rangle \in \mathbf{R}$, alors $a = a$ où $a \in E_2$ et $b = \beta$ où $b \in E_2$.

6° Si $\langle a, b \rangle \in \mathbf{R}$, $a \neq a$ et $b \neq \beta$, alors $\varphi_2(a) = \varphi_2(b)$.

**DÉFinition 4.** Si $\mathbf{R} \in \mathbf{R}$ alors $\varphi_{\mathbf{R}}(x)$ est la fonction définie de la façon suivante:

$$ \varphi_{\mathbf{R}}(x) = \begin{cases} \varphi_2(a) & \text{pour } x \in \langle a, b \rangle \in \mathbf{R} \text{ et } a \neq a, \\ \varphi_2(b) & \text{pour } x \in \langle a, b \rangle \in \mathbf{R} \text{ et } a = a, \\ \varphi_2(x) & \text{pour } x \in \langle a, \beta \rangle \setminus \bigcup I. \end{cases} $$

Remarque. En posant dans les définitions 3 et 4 $\varphi_0$ au lieu de $\varphi_2$ et $E$ au lieu de $E_2$, nous les trouvons identiques aux définitions 6 et 7 dans [1].

**DÉFinition 5.** Si la fonction $\varphi(x)$ est définie sur $\langle \alpha, \beta \rangle$, alors nous désignons par $M_\varphi$ l'ensemble des intervalles fermés, satisfaisant aux conditions suivantes:

1° Si $I \in M_\varphi$, alors $I \subset \langle \alpha, \beta \rangle$.

2° Si $\langle a, b \rangle \in M_\varphi$, alors $\varphi(x) = \varphi(a)$ pour tout $x \in \langle a, b \rangle$.

3° Si $\varphi(x) = \varphi(a)$ pour tout $x \in \langle a, b \rangle$, alors il existe un intervalle $I$ appartenant à $M_\varphi$ et contenant $\langle \alpha, \beta \rangle$.

4° Si $I_1, I_2 \in M_\varphi$, alors $I_1 = I_2$ ou $I_1 \cap I_2 = \emptyset$.

L'ensemble $M_\varphi$ est l'ensemble de tous les intervalles les plus grands pour lesquels la fonction $\varphi(x)$ est constante. Il est facile de démontrer que cet ensemble est défini de façon unique.

**DÉFinition 6.** Nous disons que $\mathbf{R} \in \mathbf{R}_M$, si et seulement si $\mathbf{R} \in \mathbf{R}$ et $\mathbf{R} = M_{\varphi_{\mathbf{R}}}$.

**LEMME 6.** Si $\mathbf{R} \in \mathbf{R}$, alors ou bien $\varphi_{\mathbf{R}}(x) = \text{const}$, ou bien il existe un ensemble $\mathbf{R}' \in \mathbf{R}_M$, tel que $\varphi_{\mathbf{R}'}(x) = \varphi_{\mathbf{R}}(x)$ pour tout $x \in \langle \alpha, \beta \rangle$.

**Démonstration.** Supposons que $\mathbf{R} \in \mathbf{R}$ et désignons $\mathbf{R}' = M_{\varphi_{\mathbf{R}'}}$. Soit

$$ (6) \qquad \varphi_{\mathbf{R}}(x) \neq \text{const.} $$
a) D'abord nous allons démontrer que $R' \in \mathbf{R}$. Les points 1° et 2° de la définition 3 sont des conséquences immédiates des points 1° et 4° de la définition 5. Le point 3° de la définition 3 résulte de (6), en vertu du point 3° de la définition 5. Il résulte de la définition 4 et du point 3° de la définition 5 que tout intervalle $I \in \mathbf{R}$ est un sous-ensemble d'un intervalle $J \in \mathcal{M}_{\varphi_n} = R'$.

Nous en obtenons que

$$ (7) \qquad \bigcup_{I \in \mathcal{R}} I \subset \bigcup_{J \in \mathcal{R}'} J $$

et il en résulte que $R'$ satisfait au point 4° de la définition 3.

Comme $J \in R'$, alors les extrémités de $J$ ne peuvent pas appartenir à l'intérieur d'un intervalle appartenant à $R'$, d'où, en vertu de (7), ces extrémités ne peuvent appartenir à aucun $I \in \mathbf{R}$. Alors

(8) si $\langle a, b \rangle \in R'$ et $I \in \mathcal{R}$, alors $a$ et $b$ n'appartienent pas à l'intérieur de $I$.

Comme l'ensemble $\mathcal{R}$ satisfait aux points 4° et 5° de la définition 3, alors il résulte de (8) que chacune des extrémités de l'intervalle $J \in R'$, si elle est différente de $a$ et de $\beta$, appartient à l'ensemble $E_2$, alors l'ensemble $R'$ satisfait au point 5° de la définition 3.

Si $\langle a, b \rangle \in R'$, alors, en vertu de (8) ou bien $a, b \in \langle a, \beta \rangle \setminus \bigcup_{I \in \mathcal{R}} I$ ou bien $a$ et $b$ sont les extrémités des intervalles appartenant à $R$. Nous en obtenons, en vertu de la définition 4, que si $a$ et $b$ sont différents de $a$ et de $\beta$, alors $\varphi_R(a) = \varphi_2(a)$ et $\varphi_R(b) = \varphi_2(b)$, alors $R'$ satisfait au point 6° de la définition 3.

b) Maintenant, nous allons démontrer que $\varphi_R(x) = \varphi_R(x)$ pour $x \in \langle a, \beta \rangle$. Si $x \in \langle a, \beta \rangle \setminus \bigcup_{J \in \mathcal{R}'} J$, alors il résulte de (7) que $x \in \langle a, \beta \rangle \setminus \bigcup_{I \in \mathcal{R}} I$, d'où $\varphi_R(x) = \varphi_2(x) = \varphi_R(x)$, en vertu de la définition 4. Supposons donc que $x \in \langle a, b \rangle \in R'$. Soit $a \neq a$. Il résulte de la définition 4 que $\varphi_R(x) = \varphi_2(a)$. D'autre part, il résulte du point 2° de la définition 5 que $\varphi_R(x) = \varphi_R(a)$, car $\langle a, b \rangle \in \mathcal{M}_{\varphi_R}$. Comme $a$ n'appartient pas à l'intérieur d'un intervalle $I \in \mathcal{R}$, en vertu de (8), nous obtenons que $\varphi_R(a) = \varphi_2(a)$. Les trois égalités obtenues démontrent que $\varphi_R(x) = \varphi_R(x)$ pour tout $x \in \langle a, \beta \rangle$.

c) Il résulte de b) que $R' = \mathcal{M}_{\varphi_R}$, d'où, en vertu de a), $R \in \mathbf{R}_M$. Ainsi le lemme 6 est démontré. •

Nous obtenons, comme une conséquence simple de (2), le

**LEMME 7.** Si une fonction $\varphi(x)$ satisfait à l'équation (1), alors elle satisfait aussi à l'équation

$$ (9) \qquad \varphi\{F_2[x, \varphi(x)]\} = \varphi(x). $$

Nous obtenons, en vertu du théorème 2 de [1], du lemme 1 et du lemme 6, le
**THÉORÈME 1.** *Toutes les solutions continues de l'équation (9) sont données par l'une des formules :*

$$ 
\begin{array}{l@{\qquad}l}
\varphi(x) = c \quad \text{pour} \quad x \in \langle\alpha, \beta\rangle, \text{où } c \in (\gamma, \delta) & \\
\text{ou} & \\
\varphi(x) = \varphi_R(x) \quad \text{pour} \quad x \in \langle\alpha, \beta\rangle, \text{où } R \in \mathbf{R}_M.
\end{array}
$$

**DÉFinition 7.** Pour une fonction $\varphi(x)$, définie dans un ensemble $X \subset \langle\alpha, \beta\rangle$ et prenant ses valeurs dans l'intervalle $(\gamma, \delta)$, nous désignons:

$$ (10) \qquad \bar{\varphi}(x) \stackrel{\text{df}}{=} F[x, \varphi(x)]. $$

En vertu de la définition 7 nous avons:

$$ \bar{\varphi}_2(x) = F[x, \varphi_2(x)] \quad \text{et} \quad \bar{\varphi}_R(x) = F[x, \varphi_R(x)]. $$

**LEMME 8.** *Soit $\varphi(x)$ une solution continue de l'équation (1) dans $\langle\alpha, \beta\rangle$. Si l'intervalle $\langle\alpha, b\rangle$, contenu dans $\langle\alpha, \beta\rangle$, satisfait à la condition*

$$ (11) \qquad \text{si } x \in \langle\alpha, b\rangle, \text{ alors } \varphi(x) = c, \\ \text{alors} $$

1° la fonction $\bar{\varphi}(x)$ est décroissante dans l'intervalle $\langle\alpha, b\rangle$ (donc $\bar{\varphi}(b) < \bar{\varphi}(a)$ et $\bar{\varphi}(x) \in \langle\bar{\varphi}(b), \bar{\varphi}(a)\rangle$ pour tout $x \in \langle\alpha, b\rangle$);

$$ 2^\circ \varphi(y) = c \text{ pour tout } y \in \langle\bar{\varphi}(b), \bar{\varphi}(a)\rangle. $$

**Démonstration.** La condition 1° résulte de (11) et de (10), en vertu du point 2° des hypothèses (H). Les fonctions $\varphi(x)$ et $F(x, y)$ étant continues, la fonction $\bar{\varphi}(x)$ est aussi continue. Il en résulte que pour tout $y \in \langle\bar{\varphi}(b), \bar{\varphi}(a)\rangle$ il existe un $x$ tel que $x \in \langle\alpha, b\rangle$ et $\bar{\varphi}(x) = y$. Comme $\varphi(x)$ satisfait à l'équation (1), alors

$$ \varphi(y) = \varphi[\bar{\varphi}(x)] = \varphi\{F[x, \varphi(x)]\} = \varphi(x) = c. $$

**LEMME 9.** *Soit $\varphi(x)$ une solution continue de l'équation (1) et $\langle\alpha, b\rangle \subset \langle\alpha, \beta\rangle$. Si la condition (11) est remplie et $\langle\alpha, b\rangle \in M_q$, alors:*

$$ \text{si } a \neq a, \text{ alors } a \in E_1, $$

$$ \text{si } b \neq \beta, \text{ alors } b \in E_1. $$

**Démonstration.** Soit $b \neq \beta$. Il résulte du lemme 7 que $\varphi(x)$ satisfait à l'équation (9), d'où $b \in E_2$ et $\varphi(b) = \varphi_2(b)$, en vertu du théorème 1 et des définitions 4 et 6. Si $b \in E_1$, alors il résulte du lemme 4 que $\varphi_2(b) = \varphi_1(b)$, d'où

$$ F(b, c) = F[b, \varphi(b)] = F[b, \varphi_1(b)] = b. $$

Il en résulte, en vertu du lemme 8, que $\langle\alpha, b\rangle \cup \langle F(b, c), F(a, c)\rangle$ est un intervalle où $\varphi(x) = c$, ce qui contredit à notre hypothèse que $\langle\alpha, b\rangle \in M_\varphi$.
**LEMME 10.** *Pour tout $y_0 \in (\gamma, \delta)$ il existe un $x_0 \in (\alpha, \beta)$ tel que $F(x_0, y_0) = x_0$.*

**Démonstration.** Soit $(x_1, y_0) \in K$. Si $F(x_1, y_0) = x_1$, le lemme 10 est satisfait. Supposons donc que $F(x_1, y_0) = x_2 \neq x_1$. Il en résulte, en vertu du point 3º des hypothèses (H), que $x_2 \in (\alpha, \beta)$. Posons

$$G(x) \stackrel{\text{df}}{=} F(x, y_0) - x.$$

En vertu de notre supposition, nous avons $G(x_1) = x_2 - x_1 \neq 0$.

Considérons les deux cas :

a) $x_2 > x_1$, c'est-à-dire $G(x_1) > 0$. Alors $G(x_2) = F(x_2, y_0) - x_2$, d'où $G(x_2) < F(x_1, y_0) - x_2 = 0$, en vertu du point 2º des hypothèses (H).

b) $x_2 < x_1$. On démontre de façon analogue que $G(x_1) < 0 < G(x_2)$.

Dans tous les deux cas $G(x_1)$ et $G(x_2)$ ont les signes opposés, alors, en vertu du point 1º des hypothèses (H), il existe un point $x_0$ tel que $G(x_0) = 0$, d'où $F(x_0, y_0) = x_0$, en vertu de la définition de la fonction $G(x)$.

Nous avons, comme une conséquence immédiate du lemme 10, le COROLLAIRE. $E_1 \neq \emptyset$.

**THÉORÈME 2.** *Si $E_1 = (\alpha, \beta)$, alors toutes les solutions continues de l'équation (1) sont données par l'une des formules :*

$$\varphi(x) = \begin{cases} \varphi_1(x) & \text{pour } x \in (\alpha, \beta), \\ c & \text{pour } x \in (\alpha, \beta), \text{ où } c \in (\gamma, \delta). \end{cases}$$

**Démonstration.** Il est facile de démontrer que $\varphi_1(x)$ et toutes les fonctions constantes prenant leurs valeurs de l'intervalle $(\gamma, \delta)$ satisfont à l'équation (1). Supposons que $\varphi(x)$ est une solution continue de l'équation (1) dans $(\alpha, \beta)$, telle que $\varphi(x) \neq \varphi_1(x)$ et $\varphi(x) \neq \text{const}$. Alors, $\varphi(x)$ satisfaisant à l'équation (9), en vertu du lemme 7, et $F(x, y)$ satisfaisant aux hypothèses (H), nous obtenons du théorème 1 qu'il existe un intervalle $(a, b) \neq (\alpha, \beta)$ tel que $\varphi(x) = \text{const}$ dans $(a, b)$ et $\varphi(x) \neq \text{const}$ dans $I \setminus (a, b)$ pour chaque intervalle $I$ comprenant $(a, b)$ et différent de $(a, b)$. Comme $(a, b) \neq (\alpha, \beta)$, nous avons $a \neq \alpha$, ou $b \neq \beta$. Alors il résulte du lemme 9 que $a \in E_1$, ou $b \in E_1$, contrairement à la condition $E_1 = (\alpha, \beta)$.

**LEMME 11.** *Soit $(a, b)$ un intervalle ouvert, tel que $(a, b) \subset E_2$. Si $(a, b) \cap E_1 \neq \emptyset$, alors $(a, b) \subset E_1$.*

**Démonstration.** Supposons qu'il existe un point $t$, tel que $t \in (a, b)$ et $t \notin E_1$. Désignons

$$Z_1 = \{x: (x, t) \cap E_1 = \emptyset \text{ et } x \in (a, b)\},$$

$$Z_2 = \{x: (t, x) \supset E_1 = \emptyset \text{ et } x \in (a, b)\}.$$
Posons

$$ t_1 = \begin{cases} \inf Z_1, & \text{si } Z_1 \neq \emptyset, \\ t, & \text{si } Z_1 = \emptyset; \end{cases} \qquad t_2 = \begin{cases} \sup Z_2, & \text{si } Z_2 \neq \emptyset, \\ t, & \text{si } Z_2 = \emptyset. \end{cases} $$

Comme $(a, b) \cap E_1 \neq \emptyset$, nous avons $t_1 > a$ ou $t_2 < b$, en vertu du point 1° du lemme 2. Soit $t_2 < b$ (dans le cas où $t_1 > a$ la démonstration est analogue). Alors $E_1 \setminus (\{a\} \cup \{\beta\})$ étant ouvert, en vertu du point 1° du lemme 2, le point $t_2$ ne peut pas être un point isolé. Il en résulte, en vertu de la définition du point $t_2$, qu'il existe une suite décroissante $\{x_n\}$, tel que $t_2 < x_n < b$ et $x_n \in E_1$ pour $n = 1, 2, ...$ et $\lim_{n \to \infty} x_n = t_2$. Comme $x_n \in E_1$, la fonction $\varphi_1(x)$ est définie dans tous les points $x_n$, ainsi que la fonction $\varphi_2(x)$ (voir le point 2° du lemme 2 et la définition 2). Comme $t_2 \in (a, b)$, nous avons $t_2 \in E_2$, en vertu de l'hypothèse. La fonction $\varphi_2(x)$ étant continue sur $E_2$, en vertu du lemme 3, nous en obtenons que $\lim_{n \to \infty} \varphi_2(x_n) = \varphi_2(t_2)$. Il en résulte que $\varphi_1(x_n) \to \varphi_2(t_2)$, car $\varphi_1(x_n) = \varphi_2(x_n)$ pour $n = 1, 2, ...$, en vertu du lemme 4. La fonction $F(x, y)$ étant continue, nous obtenons de la définition 2:

$$ t_2 = \lim F[x_n, \varphi_1(x_n)] = F[t_2, \varphi_2(t_2)], $$

d'où $t_2 \in E_1$ et $\varphi_1(t_2) = \varphi_2(t_2)$. Il en résulte, en vertu du point 1° du lemme 2, qu'il existe un voisinage $U$ du $t_2$, tel que $U \subset E_1$. Dans le cas où $t_2 = t$, nous en obtenons que $t \in E_1$, contrairement à l'hypothèse. Dans le cas où $t_2 \neq t$, nous obtenons que $U \cap (t, t_2) \neq \emptyset$, d'où $(t, t_2) \cap E_1 \neq \emptyset$, contrairement à la définition du point $t_2$.

**LEMME 12.** Si $x \in E_2$, alors

$$ (12) \qquad \bar{\varphi}_2(x) \in E_2, $$

$$ (13) \qquad \varphi_2(x) = \varphi_2[\bar{\varphi}_2(x)], $$

et

$$ (14) \qquad \bar{\varphi}_2[\bar{\varphi}_2(x)] = x. $$

**Démonstration.** Les formules (12) et (13) résultent du lemme 1. Nous avons de (12), (13) et (2)

$$ \begin{align*} \bar{\varphi}_2[\bar{\varphi}_2(x)] &= F\{\bar{\varphi}_2(x), f_2[\bar{\varphi}_2(x)]\} = F[\bar{\varphi}_2(x), \varphi_2(x)] \\ &= F\{F[x, \varphi_2(x)], \varphi_2(x)\} = F_2[x, \varphi_2(x)] = x \end{align*} $$

(voir la définition 2).

**DÉFINITION 8.** Nous disons que les points $a$ et $b$ sont conjugués, si

$$ a \in E_2 \quad \text{et} \quad \bar{\varphi}_2(a) = b. $$

Il résulte du lemme 12 que si $a$ et $b$ sont conjugués, alors $a = \bar{\varphi}_2(b)$ et $\varphi_2(a) = \varphi_2(b)$.
Nous obtenons, comme une conséquence immédiate de la définition 8 et du lemme 12, le

LEMME 13. Si $a \in E_2$, alors il existe un, et un seul, point conjugué avec $a$.

DÉFinition 9. Nous désignons par $Z$ l'ensemble de tous les ensembles $Z$, tels que

$$ \text{si } x \in Z, \text{ alors } \bar{\varphi}_2(x) \in Z. $$

DÉFinition 10. Si $R \in \mathbb{R}$, nous désignons

$$ K_R = \langle a, \beta \rangle \setminus \bigcup_{I \in R} I, $$

$$ L_R = \{x: x \neq a, x \neq \beta \text{ et } \bigvee_{I \in R} [I = \langle a, x \rangle \text{ ou } l = \langle x, b \rangle]\}. $$

DÉFinition 11. Nous désignons par $\mathbb{R}_Z$ le sous-ensemble de l'ensemble $\mathbb{R}$ (voir la définition 3) composé de tous les ensembles $\mathbb{R}$ satisfaisant aux conditions suivantes:

$$ 1^{\circ} R \in \mathbb{R}_{M}, $$

$$ 2^{\circ} K_{R} \in Z, $$

$$ 3^{\circ} L_{R} \in Z, $$

$4^{\circ} L_R \cap \bar{E}_1$, où $\bar{E}_1$ est la fermeture de l'ensemble $E_1$.

Il résulte du lemme 3, des définitions 4 et 7 et du point 1° des hypothèses (H) (voir [1], p. 246) le

LEMME 14. Les fonctions $\varphi_R(x)$ et $\bar{\varphi}_R(x)$ sont définies et continues sur l'intervalle $\langle a, \beta \rangle$.

Comme une conséquence immédiate des définitions 10, 4 et 7 nous obtenons le

LEMME 15. Si $R \in \mathbb{R}$ et $x \in L_R \subset K_R$, alors $\varphi_R(x) = \varphi_2(x)$ et $\bar{\varphi}_R(x) = \bar{\varphi}_2(x)$.

LEMME 16. Soit $\langle x_1, x_2 \rangle \in R \in \mathbb{R}_Z$. Si $a \neq x_i \neq \beta$ pour $i = 1, 2$, alors

$$ 1^{\circ} y_i = \bar{\varphi}_R(x_i) \in L_R, \text{ pour } i = 1, 2, $$

$$ 2^{\circ} \varphi_R(y_i) = \varphi_R(x_i), \text{ pour } i = 1, 2. $$

Démonstration. Il résulte des hypothèses et de la définition 10, que $x_i \in L_R$. Il en résulte, en vertu du lemme 15, de la définition 9 et du point 3° de la définition 11, que la condition 1° de notre lemme est satisfaite. Il résulte de (13) que $\varphi_2(y_i) = \varphi_2[\bar{\varphi}_2(x_i)] = \varphi_2(x_i)$, $i = 1, 2$. Il en résulte, en vertu des hypothèses, du lemme 15 et du point 1° du notre lemme, la condition 2°.

Des points 1° et 2° des hypothèses (H) nous obtenons le

LEMME 17. La fonction $F(x, y)$ est ou bien

1° strictement croissante par rapport à la deuxième variable pour tout $x \in \langle a, y \rangle$, ou bien
2º strictement décroissante par rapport à la deuxième variable pour tout $x \in \langle a, b \rangle$.

Il résulte de la définition 7 et des hypothèses (H) le

LEMME 18. Si $X \subset \langle a, b \rangle$ et la fonction $\varphi_R(x)$ est constante sur tout ensemble $X$, alors la fonction $\bar{\varphi}_R(x)$ est strictement décroissante sur l'ensemble $X$.

LEMME 19. Si $\langle a, b \rangle \in R \in \mathbb{R}_+$, $a \neq a$ et $b \neq b$, alors

$$1^{\circ} \quad I_1 = \langle \bar{\varphi}_R(b), \bar{\varphi}_R(a) \rangle \in R,$$

$$2^{\circ} \quad \varphi_R(x) = \varphi_R(a) \text{ pour tout } x \in I.$$

Démonstration. Désignons $a_1 = \bar{\varphi}_R(b)$, $b_1 = \bar{\varphi}_R(a)$, $c_1 = \varphi_R(a) = \varphi_R(b)$. Il résulte du lemme 16 que

$$(15) \qquad a_1, b_1 \in L_R,$$

$$(16) \qquad \varphi_R(a_1) = \varphi_R(b_1) = c_1,$$

et il résulte du lemme 18 que

$$(17) \qquad a_1 < b_1.$$

Il résulte de (13), (15) et du lemme 15, que

$$(18) \qquad \bar{\varphi}_R(a_1) = b \quad \text{et} \quad \bar{\varphi}_R(b_1) = a.$$

Il résulte de (17), (18) et du lemme 14, qu'il existe un intervalle $I_2 = \langle a_2, b_2 \rangle$, tel que

$$(19) \qquad a_1 \le a_2 < b_2 \le b_1,$$

$$(20) \qquad \bar{\varphi}_R(a_2) = b \quad \text{et} \quad \bar{\varphi}_R(b_2) = a.$$

$$(21) \qquad \bar{\varphi}_R(x) \in \langle a, b \rangle \quad \text{pour} \quad x \in I_2.$$

Supposons qu'il existe un point $x_0 \in I_2$, tel que $x_0 \in K_R$. Il en résulte, en vertu du lemme 15, et de (21), que $\varphi_2(x_0) \in \langle a, b \rangle$. Il résulte du point 2º de la définition 11 que $\varphi_2(x_0) \in K_R$. Nous avons obtenu que $x_0 \in \langle a, b \rangle \cap K_R$, contrairement aux hypothèses de notre lemme. Nous en concluons que l'intervalle $I_2$ est un sous-ensemble d'un intervalle $I_3$ appartenant à $R$, c'est-à-dire

$$(22) \qquad I_2 \subset I_3 \in R.$$

Il en résulte qu'il existe un nombre $c_2$, tel que

$$(23) \qquad \varphi_R(a_2) = \varphi_R(b_2) = c_2.$$

Il résulte de (16), (18), (20), (23), et de la définition 7, que

$$(24) \qquad F(a_1, c_1) = F(a_2, c_2) \quad \text{et} \quad F(b_1, c_1) = F(b_2, c_2).$$

Nous tirons de l'inégalité (19) et du point 2º des hypothèses (H) que $F(a_1, c_1) \ge F(a_2, c_1)$ et $F(b_1, c_1) \le F(b_2, c_1)$, alors il résulte de (24) que

$$(25) \qquad F(a_2, c_2) \ge F(a_2, c_1)$$
et

$$ (26) \qquad F(b_2, c_2) \le F(b_2, c_1). $$

Nous obtenons de (25) et du lemme 18 l'inégalité $F(b_2, c_2) \ge F(b_2, c_1)$, d'où $F(b_2, c_2) = F(b_2, c_1)$, en vertu de (26). Il en résulte, en vertu du point 2º des hypothèses (H), que

$$ (27) \qquad c_2 = c_1. $$

Nous tirons de (24), (27) et du point 2º des hypothèses (H) les égalités:

$$ (28) \qquad a_1 = a_2 \quad \text{et} \quad b_1 = b_2, $$

d'où $I_1 = I_3 \in \mathbb{R}$, en vertu de (22) et (15). Nous avons démontré la condition 1º de notre lemme. La condition 2º résulte de la condition 1º, en vertu de (23), (27) et (28).

**LEMME 20.** Si $I = \langle a, \beta \rangle \in \mathbb{R} \in \mathbb{R}_+$, alors $\varphi_R(x) = \varphi_R(a)$ pour tout $x \in \langle \bar{\varphi}_R(\beta), \bar{\varphi}_R(a) \rangle$.

Démonstration. Il résulte de la définition 10 et du point 3º de la définition 3 que

$$ (29) \qquad a \in L_R. $$

Posons

$$ (30) \qquad b_1 = \bar{\varphi}_R(a). $$

Alors il résulte du point 3º de la définition 11 que $b_1 \in L_R$, d'où

$$ (31) \qquad a \ne b_1 \ne \beta. $$

Donc il doit exister un intervalle $I_1 \in \mathbb{R}$, qui a $b_1$ comme une de ses extrémités. Soit $a_1$ l'autre extrémité de l'intervalle $I_1$.

Supposons que $b_1 = a$, c'est-à-dire $\bar{\varphi}_R(a) = F[a, \varphi_R(a)]$. Il en résulte, en vertu de la définition 1, que $a \in E_1$, contrairement au point 4º de la définition 11 (voir (29)). Nous avons donc $b_1 \ne a$, et il en résulte, en vertu de (31) et du point 2º de la définition 3, que $I_1 \cap I = \emptyset$, d'où

$$ (32) \qquad a_1 \ne \beta. $$

Maintenant nous allons considérer deux cas:

a) $a_1 \ne a$. Il résulte de (31) et (32) que l'intervalle $I_1$ satisfait aux conditions du lemme 20; alors les nombres $\bar{\varphi}_R(a_1)$ et $\bar{\varphi}_R(b_1)$ sont les extrémités d'un intervalle $I_2 \in \mathbb{R}$. Il résulte de (29), (30), (13) et du lemme 15, l'égalité $\bar{\varphi}_R(b_1) = a$, d'où $I_2 = I$, en vertu du point 2º de la définition 3. Il en résulte que $\bar{\varphi}_R(a_1) = \beta$, contrairement au point 3º de la définition 11, en vertu du lemme 15, car $a_1 \in L_R$ et $\beta \in L_R$.

b) $a_1 = a$, c'est-à-dire $I_1 = \langle a, b_1 \rangle$. Comme $\beta > a$, il résulte du lemme 18 et des hypothèses de notre lemme, que $\bar{\varphi}_R(\beta) < \bar{\varphi}_R(a) = b_1$,
d'où $\bar{\varphi}_R(\beta) \in I_1$. Il en résulte que $J = \langle \bar{\varphi}_R(\beta), \bar{\varphi}_R(a) \rangle \subset I_1$, d'où $\varphi_R(x) = \varphi_R(a_1)$ pour tout $x \in J$. Maintenant notre lemme résulte de (12), (2) et du lemme 15.

LEMME 21. Si $\langle a, b \rangle \in R \in \mathbb{R}_+$, alors $\varphi_R(x) = \varphi_R(b)$ pour tout $x \in \langle \bar{\varphi}_R(b), \varphi_R(a) \rangle$.

La démonstration de ce lemme est analogue à celle du lemme 21.

LEMME 22. Si $\varphi_R(x)$ est une solution continue de l'équation (1), et $x \in K_R \cup L_R$, alors $\bar{\varphi}_R[\bar{\varphi}_R(x)] = x$.

Démonstration. Il résulte de (13), du lemme 15 et des hypothèses de notre lemme que

$$ \varphi_R\{F[x, \varphi_2(x)]\} = \varphi_R\{F[x, \varphi_R(x)]\} = \varphi_R(x) = \varphi_2(x) = \varphi_2[\bar{\varphi}_2(x)], $$

d'où

$$ \varphi_R[\bar{\varphi}_2(x)] = \varphi_2[\bar{\varphi}_2(x)], $$

en vertu de la définition 7.

Nous obtenons de cette égalité, en vertu du lemme 15, de la définition 7 et de (14), que

$$ \begin{aligned} \bar{\varphi}_R[\bar{\varphi}(x)] &= \bar{\varphi}_R[\bar{\varphi}_2(x)] = F\{\bar{\varphi}_2(x), \varphi_R[\bar{\varphi}_2(x)]\} \\ &= F\{\bar{\varphi}_2(x), \varphi_2[\bar{\varphi}_2(x)]\} = \bar{\varphi}_2[\bar{\varphi}_2(x)] = x. \end{aligned} $$

Maintenant nous pouvons démontrer le

THÉORÈME 3. Si la fonction $F(x, y)$ satisfait aux hypothèses (H), alors

1. Si $E_1 = \langle \alpha, \beta \rangle$, alors les fonctions

$$ \varphi(x) = \begin{cases} \varphi_1(x) & \text{pour } x \in \langle \alpha, \beta \rangle, \\ c & \text{pour } x \in \langle \alpha, \beta \rangle, \text{ où } c \in (\gamma, \delta), \end{cases} $$

sont toutes les solutions continues de l'équation (1) dans $\langle \alpha, \beta \rangle$.

2. Si $E_1 \neq \langle \alpha, \beta \rangle$, alors les fonctions

$$ \varphi(x) = \begin{cases} \varphi_R(x) & \text{pour } x \in \langle \alpha, \beta \rangle, \text{ où } R \in \mathbb{R}_+, \\ c & \text{pour } x \in \langle \alpha, \beta \rangle, \text{ où } c \in (\gamma, \delta), \end{cases} $$

sont toutes les solutions continues de l'équation (1) dans $\langle \alpha, \beta \rangle$.

Démonstration. La première partie de ce théorème résulte du théorème 2. Nous allons démontrer la seconde partie. Soit $E_1 \neq \langle \alpha, \beta \rangle$. Nous allons considérer les deux cas suivants:

a) Soit la fonction $\varphi(x)$ une solution continue de l'équation (1), telle que $\varphi(x) \neq \text{const}$ dans $\langle \alpha, \beta \rangle$. Il résulte du lemme 7 et du théorème 1 qu'il existe un ensemble $R \in \mathbb{R}_+$, tel que $\varphi(x) = \varphi_R(x)$ pour tout $x \in \langle \alpha, \beta \rangle$. Nous allons démontrer que $R \in \mathbb{R}_+$.
1. La condition $R \in \mathbb{R}_M$ résulte immédiatement de la définition de l'ensemble $R$.

2. Soit $x \in K_R$ et $y = \bar{\varphi}_2(x)$. Il résulte du lemme 15 que $y = \bar{\varphi}_R(x)$, d'où

$$ (33) \qquad \bar{\varphi}_R(y) = x, $$

en vertu du lemme 22. Nous allons démontrer que $y \in K_R$. Supposons que, au contraire, $y \in K_R$, c'est-à-dire $y \in \langle a, b \rangle \in R$. Alors il résulte des points 2° et 3° de la définition 5 et du lemme 8, qu'il existe un intervalle $I \in R$, tel que

$$ \bar{\varphi}_R(y) \in \langle \bar{\varphi}_R(b), \bar{\varphi}_R(a) \rangle \subset I, $$

contrairement à (33), car $x \in K_R$.

3. Soit $x \in L_R$ et soit $x$ l'origine d'un intervalle $\langle x, b \rangle \in R$ (dans le cas où $x$ est l'extrémité d'un intervalle $\langle a, x \rangle \in R$, la démonstration est analogue). Il résulte des points 2° et 3° de la définition 5 et du lemme 8, qu'il existe un intervalle $\langle a_1, b_1 \rangle$, tel que

$$ \langle \bar{\varphi}(b), \bar{\varphi}(x) \rangle \subset \langle a_1, b_1 \rangle \in R, \quad \text{d'où} \quad a_1 \le \bar{\varphi}(b) < \bar{\varphi}(x) \le b_1. $$

Supposons, en outre, que $\bar{\varphi}(x) \ne b_1$, c'est-à-dire $a_1 < \bar{\varphi}(x) < b_1$. En appliquant encore une fois le lemme 8, nous obtenons qu'il existe un intervalle $\langle a_2, b_2 \rangle \in R$, tel que

$$ \langle \bar{\varphi}(b_1), \bar{\varphi}(a_1) \rangle \subset \langle a_2, b_2 \rangle \quad \text{et} \quad \dot{\bar{\varphi}}(b_1) < \bar{\varphi}[\bar{\varphi}(x)] < \bar{\varphi}(a_1). $$

Il en résulte, en vertu du lemme 22, que $a_2 < x < b_2$, contrairement au point 2° de la définition 3. Cette contradiction démontre que $\bar{\varphi}(x) = b_1$. Il en résulte, en vertu du lemme 15, que $\bar{\varphi}_2(x) = b_1$. Comme $b_1$ est l'extrémité d'intervalle appartenant à $R$, nous obtenons, en vertu du lemme 13 et de la définition 10, que $\bar{\varphi}_2(x) \in L_R$, c'est-à-dire $L_R \in Z$.

4. Soit $b \in L_R \cap \bar{E}_1$. Alors, comme $b \in E_2$, en vertu de la définition 3, il résulte du point 1° du lemme 2, qu'il existe un voisinage $U$ de $b$ tel que $U \subset E_2 \setminus (\{a\} \cup \{\beta\})$. Comme $b \in \bar{E}_1$, nous avons $U \cap E_1 \ne \emptyset$ et il en résulte, en vertu du lemme 12, que $U \subset E_1$, donc $b \in E_1$, contrairement au lemme 9.

Ainsi nous avons démontré que $R \in \mathbb{R}_Z$.

b. Soit $R \in \mathbb{R}_Z$ et $\varphi(x) = \varphi_R(x)$ pour $x \in \langle a, \beta \rangle$. Alors $R \in \mathbb{R}_M$, en vertu du point 1° de la définition 11. La continuité de la fonction $\varphi_R(x)$ résulte du lemme 14. Nous allons démontrer que $\varphi(x)$ satisfait à l'équation (1). Considérons les cas suivants:

1. $x \in \langle a, b \rangle$ et $\langle a, b \rangle \in \mathbb{R}_M$. Alors il existe une constante $y$ telle que

$$ \varphi(x) = y \quad \text{pour} \quad x \in \langle a, b \rangle. $$
Il résulte donc du lemme 18 que

$$ \varphi(x) = y \quad \text{pour} \quad x \in \langle \bar{\varphi}_R(b), \bar{\varphi}_R(a) \rangle $$

et

$$ \bar{\varphi}_R(b) \le \bar{\varphi}_R(x) \le \bar{\varphi}_R(a) \quad \text{pour} \quad x \in \langle a, b \rangle $$

en vertu du point 2º des hypothèses (H). Nous en obtenons

$$ \varphi\{F[x, \varphi(x)]\} = \varphi[F(x, y)] = y = \varphi(x). $$

2º $x \in K_R$. Dans ce cas nous avons, en vertu du point 2º de la définition 11, que $\varphi_2(x) = \varphi_2[\bar{\varphi}_2(x)]$ et que $\bar{\varphi}_2(x) \in K_R$. Comme $x, \bar{\varphi}_2(x) \in E_2$, en vertu du point 4º de la définition 3, nous obtenons des définitions 4 et 7:

$$ \varphi\{F[x, \varphi(x)]\} = \varphi\{F[x, \varphi_2(x)]\} = \varphi[\varphi_2(x)] = \varphi_2[\varphi_2(x)] = \varphi_2(x) = \varphi(x). $$

La fonction $\varphi(x)$ satisfait donc à l'équation (1). Comme il est facile de vérifier que toute constante de l'intervalle $(\gamma, \delta)$ satisfait aussi à cette équation, nous avons démontré le théorème 3.

Je tiens à exprimer ma reconnaissance à M. Lech Dubikajtis, dont remarques m'ont aidé à rédiger ce travail et à éliminer quelques erreurs.

## Travaux cités

[1] D. Brydak, *Sur une équation fonctionnelle (I)*, Ann. Polon. Math. 15 (1964), pp. 237-251.

Reçu par la Rédaction le 9. 7. 1963