# Quelques observations à propos de l'équation pré-Schröder

par MAREK KUCZMA (Katowice)

**Sommaire.** On étudie l'équation fonctionnelle (1) (dite l'équation pré-Schröder) et sa connection avec l'équation fonctionnelle de Schröder (2). Ici $\omega: E \to E$ est une application d'un ensemble quelconque $E$ dans lui même, et $\varphi: E \to \Phi$ prend les valeurs dans un groupe commutatif $\Phi$ qui peut être aussi muni d'un zéro. On indique une classe vaste de fonctions $\omega$ pour lesquelles les équations (1) et (2) ne sont pas équivalentes. On en tire quelques conséquences dans le cas où $\omega$ est une application continue d'un intervalle réel $E$ dans lui même.

**§ 1.** Soit $E$ un ensemble quelconque et soit $\omega: E \to E$ une application de l'ensemble $E$ dans lui-même. Nous définissons les itérées $\omega_n$ de la fonction $\omega$ par les formules

$$ \omega_0(x) = x, \quad \omega_{n+1}(x) = \omega(\omega_n(x)), \quad n = 0, 1, 2, \dots $$

Alors les itérées $\omega_n$ sont définies dans l'ensemble $E$ tout entier pour chaque indice entier non-négatif $n$.

Dans un travail récent [3] M. Z. Moszner a étudié l'équation fonctionnelle

$$ (1) \qquad \{\varphi[\omega(x)]\}^2 = \varphi(x)\varphi[\omega_2(x)], \quad x \in E, $$

qui s'appelle l'équation pré-Schröder. Les valeurs de $\varphi$ peuvent se trouver dans un groupe commutatif $\Phi$, possiblement muni d'un zéro avec la règle d'opération

$$ 0 \cdot a = 0 \quad \text{pour tous } a \in \Phi. $$

Par exemple, $\Phi$ peut être un corps commutatif.

Le nom *l'équation pré-Schröder* est dû au fait que toutes les solutions $\varphi$ de l'équation fonctionnelle de Schröder

$$ (2) \qquad \varphi[\omega(x)] = \lambda\varphi(x), $$

où $\lambda \in \Phi$ est une constante, satisfont aussi à l'équation (1). L'implication converse en général n'est pas vraie: il existe des solutions $\varphi$ de (1) qui ne satisfont pas à l'équation (2) avec aucune constante $\lambda$.

Cependant il existe des fonctions particulières $\omega$ pour lesquelles les équations (1) et (2) sont équivalentes. Telles sont par exemple les fonctions
constantes $\omega(x) = \text{const}$, et la fonction identité $\omega(x) = x$. Dans [3]
M. Z. Moszner montre aussi d'autres exemples de telles fonctions, mais
en même temps il montre aussi que telles exemples sont peut-être excep-
tionnelles.

Dans la note présente nous généralisons un peu un de théoremes de
M. Z. Moszner et nous indiquons plusieurs fonctions $\omega$ pour lesquelles
l'équation (1) n'implique pas l'équation (2).

§ 2. Dans l'ensemble $\mathcal{E}$ nous introduissons la relation d'équivalence $\iota$.
Nous disons que les points $x_1, x_2 \in \mathcal{E}$ sont équivalentes, et nous écrivons
$x_1 \prec x_2$, s'il existe des indices entiers non-négatifs $n, m$ tels que $\omega_n(x_1) = \omega_m(x_2)$. Les éléments de l'ensemble quotient $\mathcal{E}/\iota$ s'appellent les orbites.
L'orbite qui contient le point $x$ sera désignée par $\mathcal{O}[x]$.

Le point $x_0 \in \mathcal{E}$ s'appelle un point fixe d'ordre $k$ ($k \ge 1$) si $\omega_k(x_0) = x_0$
et $\omega_l(x_0) \neq x_0$ pour $0 < l < k$. Pour chaque entier positif $k$ désignons
par $\mathcal{E}_k$ l'ensemble de tels points $x \in \mathcal{E}$ pour lesquelles l'orbite $\mathcal{O}[x]$ contient
un point fixe d'ordre $k$. Nous posons aussi

$$
\mathcal{E}_0 = \mathcal{E} \setminus \bigcup_{k=1}^{\infty} \mathcal{E}_k.
$$

Les ensembles $\mathcal{E}_k$ sont disjointes. De plus

$$
(3) \quad x \in \mathcal{E}_k \text{ implique } \mathcal{C}[x] \subset \mathcal{E}_k, \quad k = 0, 1, 2, \dots
$$

(vois [1], [2]).

La démonstration du thèoreme suivant est fondée sur les mêmes
idées qui interviennent dans la partie finale du travail [3].

THÉORÈME. Soit $\mathcal{E}$ un ensemble quelconque, $\Phi$ un groupe commutatif
qui peut être muni aussi d'un zéro, et $\omega: \mathcal{E} \to \mathcal{E}$ une application de $\mathcal{E}$ dans
lui-même. Si $\mathcal{E}_k \neq \emptyset$ pour un entier pair $k$ et l'ensemble $\mathcal{E}$ ne se réduit
pas à une seule orbite, alors les équations (1) et (2) pour les fonctions $\varphi$:
$\mathcal{E} \to \Phi$ ne sont pas équivalentes.

Démonstration. Fixons un $x_0 \in \mathcal{E}_k$ et un $\alpha \in \Phi$, $\alpha \neq 0$. Pour $x \in \mathcal{C}[x_0]$ nous posons

$$
(4) \qquad \varphi(x) = (-1)^{n-m} \alpha,
$$

où $n$ et $m$ sont choisis d'après la relation $\omega_n(x_0) = \omega_m(x)$. Il s'ensuit du
Lemme 0.2 de [2] (v. aussi [1]) que le deuxième membre de (4) ne dépend
pas du choix particulier d'indices $m, n$. Posons encore $\varphi(x) = \alpha$ pour
$x \in \mathcal{E} \setminus \mathcal{C}[x_0]$. On vérifie sans peine que la fonction $\varphi$ ainsi définie satisfait
à l'équation (1), mais pas à l'équation (2) quel que soit la constante $\lambda$.

§ 3. Maintenant nous allons tirer quelques conséquences de notre théorème pour les fonctions continues $\omega$, dans le cas, où $\mathcal{E}$ est un intervalle réel.
PROPOSITION 1. Soit $E \subset (-\infty, \infty)$ un intervalle, $\Phi$ un groupe commutatif qui peut être muni aussi d'un zéro, et $\omega: E \to E$ une application continue. S'il existe dans $E$ un point fixe $x_0$ d'un ordre $k \ge 2$ de $\omega$, alors les équations (1) et (2) pour les fonctions $\varphi: E \to \Phi$ ne sont pas équivalentes.

Démonstration. D'après un théorème de M. A. N. Šarkovskii [4] la fonction $\omega$ doit avoir dans $E$ un point fixe $x_1$ d'ordre 1 et un point fixe $x_2$ d'ordre 2. Alors $x_2 \in E_2$, ce qui signifie que $E_2 \neq \emptyset$. D'autre côté, $x_1 \in E_1$ et $E_1 \cap E_2 = \emptyset$. Alors $x_1 \notin C[x_2]$ en vertu de (3). Notre proposition est donc une conséquence du théorème.

LEMME. Soit $E \subset (-\infty, \infty)$ un intervalle et $\omega, \sigma: E \to E$ deux applications continues qui ne sont pas constantes dans aucun intervalle. Alors la composition $\omega \circ \sigma$ n'est pas constante dans aucun intervalle.

Démonstration. Supposons, par contre, que $\omega \circ \sigma$ est constante dans un intervalle $I \subset E$. La fonction continue $\sigma$ n'étant pas constante dans $I$, l'ensemble $\sigma(I)$ est un intervalle, et il est de même pour l'ensemble $\omega[\sigma(I)]$, ce qui montre que $\omega \circ \sigma$ ne peut pas être constante dans $I$.

PROPOSITION 2. Soit $E \subset (-\infty, \infty)$ un intervalle, $\Phi$ un groupe commutatif qui peut être muni aussi d'un zéro, et $\omega: E \to E$ une application continue qui n'est pas constante dans aucun intervalle. Si $\omega$ n'a pas de points fixes dans $E$, alors les équations (1) et (2) pour les fonctions $\varphi: E \to \Phi$ ne sont pas équivalentes.

Démonstration. It s'ensuit des hypothèses de notre proposition que $E = E_0$ et il reste de montrer que l'ensemble $E$ ne se réduit pas à une seule orbite. Supposons que cela n'est pas vrai, alors il y a un $x_0 \in E$ tel que $E = C[x_0]$. D'autres termes

$$ (5) \qquad E = \bigcup_{n=0}^{\infty} \bigcup_{m=0}^{\infty} A_{mn}, $$

où

$$ A_{mn} = \{x \in E : \omega_m(x) = \omega_n(x_0)\}. $$

La fonction $\omega$ étant continue, chaque ensemble $A_{mn}$ est fermé. Il résulte du Lemme que pour chaque $m \ge 0$ la fonction $\omega_m$ n'est pas constante dans aucun intervalle. Alors les ensembles $A_{mn}$ n'ont pas de points intérieurs. Ils sont donc non-denses et en vertu de (5) $E$ est un ensemble de la première catégorie. Mais c'est impossible vu le théorème de Baire.

Les Propositions 1 et 2 au-dessus montrent que pour la plupart de fonctions continues $\omega: E \to E$, où $E$ est un intervalle, les équations (1) et (2) ne sont pas équivalentes.

Travaux cités

[1] M. Kuczma, *Third note on the general solution of a functional equation*, Ann. Polon. Math. 17 (1965), p. 179-192.
[2] — *Functional equations in a single variable*, Monografie Mat. 46, Warszawa 1968.

[3] Z. Moszner, *Sur un problème relatif aux équations de Pré-Schröder*, Ann. Polón. Math. 27(1973), p. 289-292.

[4] А. Н. Шарковский, *Сосуществование циклов непрерывного преобразования прямой в себя*, Украин. Мат. Ж. (16) (1964), № 1, p. 64-71.

Reçu par la Rédaction le 15. 12. 1971