REMARQUES SUR LA FRONTIÈRE DE MARTIN
BIHARMONIQUE ET LA REPRÉSENTATION
INTÉGRALE DES FONCTIONS BIHARMONIQUES

MOHAMED EL KADIRI AND SABAH HADDAD

Received 4 August 2004

Soit $(\Omega, \mathcal{H})$ un espace biharmonique fort au sens de Smyrnelis dont les espaces harmoniques associés sont des espaces de Brelot qui vérifient l'axiome de proportionnalité. On montre que s'il existe un couple $\mathcal{H}$-harmonique $> 0$ sur $\Omega$, alors l'ensemble des points minimaux de la frontière de Martin biharmonique de $\Omega$ qui ne sont pas les pôles de couples biharmoniques minimaux est négligeable dans un sens que l'on précisera. Dans le cas classique d'un domaine lipschitzien borné de $\mathbb{R}^n$, nous montrons que cet ensemble est vide.

# 1. Introduction

Identifiant les solutions de l'équation biharmonique classique $\Delta^2 u = 0$ dans un ouvert $\omega$ de $\mathbb{R}^n$ aux couples $(u, v)$ de fonctions de classe $C^2$ dans $\omega$ telles que $\Delta u = -v$ et $\Delta v = 0$, E. P. Smyrnelis a developpé dans [13, 14] une théorie axiomatique des fonctions biharmoniques s'appliquant plus généralement à des équations du type $L_1L_2u = 0$, où $L_1$ et $L_2$ sont deux opérateurs différentiels du second ordre elliptiques ou paraboliques sur un ouvert de l'espace $\mathbb{R}^n$. Dans cette théorie, un espace biharmonique est la donnée d'un espace localement compact $\Omega$ et un faisceau $\mathcal{H}$ d'espaces vectoriels de couples de fonctions reélles continues sur les ouverts de $\Omega$ vérifiant certains axiomes. A un tel espace sont alors associés deux espaces harmoniques. Beaucoup de résultats des théories du potentiel, classiques ou axiomatiques, ont été étendus au cadre de la théorie des espaces biharmoniques par Smyrnelis.

Le problème de la représentation intégrale des potentiels dans un espace biharmonique fort $(\Omega, \mathcal{H})$ a été étudié par Smyrnelis dans un cadre restreint, puis par le premier auteur de ce travail, dans un cadre plus général, en utilisant la méthode des éléments extrémaux de Choquet, dans [7] où il a étudié en particulier l'ensemble des points de $\Omega$ qui ne sont pas les pôles de potentiels purs et a montré que cet ensemble est négligeable dans le sens où il est polaire relativement au deuxième espace harmonique associé à $(\Omega, \mathcal{H})$.

Le problème de la frontière de Martin a été récemment considéré par le premier auteur dans [8] où il a défini la frontière de Martin d'un espace biharmonique fort $(\Omega, \mathcal{H})$ dont les espaces harmoniques associés $(\Omega, \mathcal{H}_1)$ et $(\Omega, \mathcal{H}_2)$ sont des espaces de Brelot et vérifient
l'axiome de proportionnalité. Cette frontière permet, comme dans le cas harmonique, de faire la représentation intégrale des couples biharmoniques positifs par des noyaux au moyen de mesures de Radon positives; le problème de Riquier relativement à cette frontière a été également étudié.

Dans le présent travail, nous étudions l'ensemble des points minimaux de la frontière de Martin $\partial^M\Omega$ d'un espace biharmonique fort $(\Omega, \mathcal{H})$ vérifiant les hypothèses de [8] qui ne sont pas les pôles de couples biharmoniques minimaux purs. Plus précisemment nous montrons que cet ensemble dans $\partial^M\Omega$ est négligeable dans un sens qui sera précisé, et nous donnons un exemple montrant qu'il peut ne pas être vide. Nous montrons aussi que si $\Omega$ est un domaine lipschitzien borné de $\mathbb{R}^n$, $n \ge 2$, muni du faisceau biharmonique associé à l'équation biharmonique classique cet ensemble est vide.

Le mot fonction signifiera toujours, sauf mention du contraire, fonction à valeurs dans $\mathbb{R}$. Si $(f_1, g_1)$ et $(f_2, g_2)$ sont deux couples de fonctions sur un ensemble $E$, on adoptera les définitions suivantes concernant l'ordre produit usuel :

$$ 
\begin{aligned}
(f_1, g_1) \ge (f_2, g_2) &\iff f_1 \ge f_2, g_1 \ge g_2, \\
(f_1, g_1) > (f_2, g_2) &\iff f_1 > f_2, g_1 > g_2,
\end{aligned} 
\qquad (1.1) 
$$

et on écrira tout simplement $(f,g) \ge 0$ (resp., $(f,g) > 0$) au lieu de $(f,g) \ge (0,0)$ (resp., $(f,g) > (0,0)$).

Les notations concernant les espaces biharmoniques seront toujours comme dans les travaux de Smyrnelis cités dans la bibliographie.

Évidemment tous les résultats de ce travail sont vrais pour un espace polyharmonique fort d'ordre quelconque; nous n'avons considéré le cas biharmonique que pour des raisons de simplicité.

## 2. Résultats préliminaires

Dans tout ce travail on se place dans un espace biharmonique fort au sens de Smyrnelis [13] $(\Omega, \mathcal{H})$ dont les espaces harmoniques $(\Omega, \mathcal{H}_1)$ et $(\Omega, \mathcal{H}_2)$ sont des espaces de Breton et qui satisfont l'axiome de proportionnalité. Il existe alors d'après [10, proposition 22.1], deux noyaux de Green $G_1$ et $G_2$ relatifs aux espaces harmoniques $(\Omega, \mathcal{H}_1)$ et $(\Omega, \mathcal{H}_2)$ respectivement, c'est-à-dire,

(1) $G_1$ et $G_2$ sont deux fonctions s.c.i. sur $\Omega \times \Omega$, continues hors de la diagonale;

(2) pour tout $y \in \Omega$, la fonction $G_i(\cdot, y)$ est un $\mathcal{H}_i$-potentiel de support harmonique $\{y\}$, $i = 1, 2$.

Ces noyaux permettent de représenter les potentiels dans les espaces harmoniques $(\Omega, \mathcal{H}_1)$ et $(\Omega, \mathcal{H}_2)$ : pour tout $\mathcal{H}_1$-potentiel $p$ et tout $\mathcal{H}_2$-potentiel $q$, il existe deux mesures de Radon positives $\mu$ et $\nu$ sur $\Omega$, uniques, telles que $p = G_1^\mu$ et $q = G_2^\nu$, où, pour toute mesure de Radon $\lambda \ge 0$ sur $\Omega$, on a noté $G_i^\lambda$ la fonction définie par

$$ G_i^\lambda(x) = \int G_i(x, y)d\lambda(y), \quad \forall x \in \Omega. \qquad (2.1) $$

On note $\mathcal{U}(\Omega)$ et $\mathcal{U}_i(\Omega)$ (resp., $\mathcal{U}^+(\Omega)$ et $\mathcal{U}_i^+(\Omega)$), $i = 1, 2$, respectivement les cônes des couples $\mathcal{H}$-hyperharmoniques et celui des fonctions $\mathcal{H}_i$-hyperharmoniques (resp., $\ge 0$)
dans $\Omega$. On note aussi $\mathcal{S}^+(\Omega)$ et $\mathcal{S}_i^+(\Omega)$, $i=1,2$, respectivement les cônes des couples $\mathcal{H}$-surharmoniques et des fonctions $\mathcal{H}_i$-surharmoniques $\ge 0$ dans $\Omega$. Si $f$ est une fonction définie sur un ouvert $U$ de $\Omega$, on note $\hat{f}$ sa régularisée s.c.i., c'est-à-dire, la plus grande minorante s.c.i. de $f$ sur $U$.

**PROPOSITION 2.1** [14, Lemme 11.6]. Soit $v \in \mathcal{U}_2^+(\Omega)$. Alors la fonction

$$u_v = \inf\{u \in \mathcal{U}_1^+(\Omega) : (u, v) \in \mathcal{U}^+(\Omega)\} \quad (2.2)$$

est $\mathcal{H}_1$-hyperharmonique $\ge 0$ dans $\Omega$ et le couple $(u_v, v)$ est $\mathcal{H}$-hyperharmonique dans $\Omega$.

**Définition 2.2.** La fonction $u_v$ de la proposition précédente s'appelle la fonction hyperharmonique pure d'ordre 2 associée à $v$.

Un couple $(u, v) \in \mathcal{U}^+(\Omega)$ est dit pur si $u = u_v$.

**Remarque 2.3.** S'il existe une fonction $u \in \mathcal{S}_1^+(\Omega)$ telle que $(u, v) \in \mathcal{S}^+(\Omega)$ alors $u_v \in \mathcal{S}_1^+(\Omega)$, et c'est même un $\mathcal{H}_1$-potentiel.

Le théorème suivant se trouve dans [4].

**THÉORÈME 2.4.** Il existe un noyau borélien unique $\mathcal{V}$ sur $\Omega$ tel que

(i) pour toute fonction $v \in \mathcal{U}_2^+(\Omega)$, $\mathcal{V}(v)$ est la fonction hyperharmonique pure d'ordre 2 associée à $v$,

(ii) pour toute fonction $\varphi$ continue à support compact dans $\Omega$, la fonction $\mathcal{V}(\varphi)$ est un $\mathcal{H}_1$-potentiel $\mathcal{H}_1$-harmonique dans le complémentaire du support de $\varphi$.

Le théorème suivant, qui se trouve également dans [4], est essentiel pour la représentation intégrale des $\mathcal{H}$-potentiels et des couples $\mathcal{H}$-harmoniques $\ge 0$ dans $\Omega$.

**THÉORÈME 2.5.** Soit $(s_1, s_2) \in \mathcal{S}^+(\Omega)$, alors on a $\mathcal{V}(s_2) < s_1$, c'est-à-dire, il existe une fonction $t \in \mathcal{S}_1^+(\Omega)$ telle que

$$s_1 = t + \mathcal{V}(s_2). \quad (2.3)$$

**Remarque 2.6.** Si $(h, k)$ est un couple biharmonique $\ge 0$ dans $\Omega$, alors $\mathcal{V}(k)$ est la partie potentielle de la fonction $h$ dans la décomposition de Riesz des fonctions $\mathcal{H}_1$-surharmoniques $\ge 0$ dans $\Omega$.

Soit $(p, q)$ un $\mathcal{H}$-potentiel $> 0$ fini continu dans $\Omega$. La fonction $p_0 = \mathcal{V}(q)$ est un $\mathcal{H}_1$-potentiel dans $\Omega$, on peut alors trouver une mesure de Radon positive $\mu_0$ sur $\Omega$ telle que $p_0 = G_1^{\mu_0}$. On peut montrer que

$$\mathcal{V}(f) = \int \frac{f(y)}{q(y)} G_1(\cdot, y) d\mu_0(y) \quad (2.4)$$

pour toute fonction borélienne $f \ge 0$ sur $\Omega$ (voir [7]).

**Exemple 2.7.** Considérons l'espace biharmonique classique $(\mathbb{R}^n, \mathcal{H})$, $n \ge 1$, où le faisceau biharmonique $\mathcal{H}$ est défini pour tout ouvert $\omega$ de $\mathbb{R}^n$ par

$$\mathcal{H}(\omega) = \{(u, v) \in [\mathbb{C}^2(\omega)]^2 : \Delta u = -v, \Delta v = 0\}. \quad (2.5)$$
Les espaces harmoniques associés sont égaux à l'espace harmonique classique du Laplacien et vérifient donc les hypothèses de ce paragraphe. Cet espace est fort si, et seulement si, $n \ge 5$ (voir [7]). Le noyau $\mathcal{V}$ du théorème 2.4 est, dans ce cas, donné par

$$ \mathcal{V}f(x) = \frac{1}{\sigma_n(n-2)} \int \frac{f(y)}{\|x-y\|^{n-2}} dy \quad (2.6) $$

pour toute fonction borélienne $f$ positive sur $\mathbb{R}^n$, où $\sigma_n$ est l'aire de la sphère unité de $\mathbb{R}^n$.

On sait d'après [7] que si $\Omega$ est un domaine de $\mathbb{R}^n$, $n \ge 1$, muni du faisceau biharmonique induit par $\mathcal{H}$, alors $\Omega$ est un espace harmonique fort si, et seulement si, pour tout (ou pour un) $y \in \Omega$, la fonction hyperharmonique pure d'ordre deux associée à $G_{\Omega}(\cdot, y)$ (car les espaces harmoniques associés sont symétriques) est surharmonique, où $G_{\Omega}$ est le noyau de Green de $\Omega$.

En outre, il n'est pas difficile de voir qu'un domaine borné $\Omega$ de $\mathbb{R}^n$ est fort et qu'il existe des couples biharmoniques purs $> 0$ dans $\Omega$. Par contre, si $\Omega$ n'est pas borné, il peut ne pas exister de couples biharmoniques $> 0$, comme c'est le cas si $\Omega = \mathbb{R}^n$ (voir [7]).

### 3. Frontière de Martin biharmonique et représentation intégrale des fonctions biharmoniques

La définition de la frontière de Martin biharmonique de $\Omega$ repose sur le théorème suivant dû à Constantinescu et Cornea (voir [9, Theorem 12.1]).

**THÉORÈME 3.1.** *Soit $\mathcal{D}$ une famille de fonctions continues sur $\Omega$ à valeurs dans $[-\infty, +\infty]$. Alors il existe un espace compact $\hat{\Omega}$ tel que*

(i) $\Omega$ est un ouvert dense de $\hat{\Omega}$;

(ii) toute fonction $f$ de $\mathcal{D}$ admet un prolongement continu $f^*$ à $\hat{\Omega}$;

(iii) les fonctions $f^*, f \in \mathcal{D}$, séparent les points de la frontière $\hat{\Omega} \setminus \Omega$ de $\Omega$.

*Remarque 3.2.* Le théorème est vrai aussi pour une famille $\mathcal{D}$ de fonctions continues sur le complémentaire d'un même compact de $\Omega$, à condition d'imposer aux prolongements d'être continus sur le complémentaire de ce compact.

Fixons dans toute la suite un point $x_0$ dans $\Omega$. Pour tout $y \in \Omega$, posons

$$ 
\begin{align} 
H(x, y) &= \begin{cases} \frac{G_1(x, y)}{G_1(x_0, y)} & \text{si } x \neq x_0 \text{ ou } y \neq x_0, \\ 1 & \text{si } x = y = x_0, \end{cases} \tag{3.1} \\ 
L(x, y) &= \begin{cases} \frac{G_2(x, y)}{G_2(x_0, y)} & \text{si } x \neq x_0 \text{ ou } y \neq x_0, \\ 1 & \text{si } x = y = x_0, \end{cases} \nonumber 
\end{align} 
$$

(avec la convention $a/\infty = 0$ pour tout réel $a \neq 0$) et considérons la famille

$$ \mathcal{D} = \{H(x, \cdot); x \in \Omega\} \cup \{L(x, \cdot); x \in \Omega\}. \quad (3.2) $$

Les fonctions de la famille $\mathcal{D}$ sont continues dans le complémentaire de $\{x_0\}$.
**Définition 3.3.** Le compactifié $\hat{\Omega}$ du théorème 3.1 de $\Omega$ correspondant à la famille $\mathcal{D}$ précédente est appelé le compactifié de Martin biharmonique de $\Omega$; la frontière de $\Omega$ dans $\hat{\Omega}$ est appelée la frontière de Martin biharmonique de $\Omega$ et notée $\partial^M\Omega$ (on a donc $\partial^M\Omega = \hat{\Omega} \setminus \Omega$).

Pour tout $x \in \Omega$ on note encore $H(x, \cdot)$ et $L(x, \cdot)$ les prolongements des éléments de la famille $\mathcal{D}$ à l'espace $\hat{\Omega}$. Il résulte alors de la propriété de Harnack dans chacun des espaces harmoniques $(\Omega, \mathcal{H}_1)$ et $(\Omega, \mathcal{H}_2)$ que, pour tout $Y \in \partial^M\Omega$, les fonctions $H(\cdot, Y)$ et $L(\cdot, Y)$ sont respectivement $\mathcal{H}_1$-harmonique > 0 et $\mathcal{H}_2$-harmonique > 0 dans $\Omega$. Pour tout $Y \in \partial^M\Omega$ on pose

$$ K(\cdot, Y) = \mathcal{V}(L(\cdot, Y)). \qquad (3.3) $$

**Remarques 3.4.** (1) Dans le cas où il n'existe pas de couple $\mathcal{H}$-biharmonique $(h, k) > 0$ dans $\Omega$, la frontière de Martin de l'espace harmonique $(\Omega, \mathcal{H}_1)$ suffirait pour représenter les couples biharmoniques $\ge 0$ puisque ces couples se réduisent, dans ce cas, aux couples de la forme $(h, 0)$ avec $h \in \mathcal{H}_1$-harmonique $\ge 0$.

(2) Si $\mathcal{H}_1 = \mathcal{H}_2$, la frontière de Martin biharmonique de $\Omega$ se réduit aussi à la frontière de Martin de l'espace harmonique $(\Omega, \mathcal{H}_1)$.

**PROPOSITION 3.5** [8, proposition 3.3]. Soit $k$ une fonction $\mathcal{H}_2$-harmonique $\ge 0$ dans $\Omega$. Si la fonction $\mathcal{V}(k)$ est surharmonique alors le couple $(\mathcal{V}(k), k)$ est biharmonique dans $\Omega$. En particulier, si $Y \in \partial^M\Omega$ est tel que $K(\cdot, Y)$ est surharmonique, alors le couple $(K(\cdot, Y), L(\cdot, Y))$ est biharmonique.

**COROLLAIRE 3.6.** L'ensemble $\{Y \in \partial^M\Omega; K(\cdot, Y) = +\infty\}$ est un borélien de $\partial^M\Omega$.

**Démonstration.** Soit $x \in \Omega$. D'après la proposition précédente, on a

$$ \{Y \in \partial^M \Omega; K(\cdot, Y) = +\infty\} = \{Y \in \partial^M \Omega; K(x, Y) = +\infty\}. \qquad (3.4) $$

D'autre part, il résulte de la définition de $K(\cdot, Y)$ et du lemme de Fatou que l'application $Y \mapsto K(x, Y)$ est s.c.i. sur $\partial^M\Omega$, d'où le résultat. $\square$

**THÉORÈME 3.7** [8, théorème 3.5]. Soit $(h, k)$ un couple biharmonique $\ge 0$, alors il existe deux mesures de Radon $\mu$ et $\nu$ positives sur $\partial^M\Omega$ telles que

$$ h = \int H(\cdot, Y)d\mu(Y) + \int K(\cdot, Y)d\nu(Y), \quad k = \int L(\cdot, Y)d\nu(Y). \qquad (3.5) $$

**COROLLAIRE 3.8.** Pour qu'il existe un couple biharmonique $(h, k) > 0$ dans $\Omega$ il faut et il suffit qu'il existe $Y \in \partial^M\Omega$ tel que $K(\cdot, Y) < +\infty$.

Dans toute la suite on suppose qu'il existe un couple biharmonique $(h, k) > 0$ dans $\Omega$. Il faut noter que ce cas n'a pas toujours lieu. En effet, il suffit de prendre l'espace biharmonique classique $(\mathbb{R}^n, \mathcal{H})$ de l'exemple 2.7. Alors, pour tout entier $n \ge 1$, il n'existe pas de couple biharmonique $(h, k) > 0$ dans $\mathbb{R}^n$ (voir [5, exemple 1 du paragraphe 3]).

En général on n'a pas l'unicité de la représentation intégrale dans le théorème précédent. Pour avoir l'unicité il faut imposer certaines conditions aux mesures $\mu$ et $\nu$
et aux fonctions $K(x, \cdot)$ et $L(x, \cdot)$, $x \in \Omega$. Pour cela on introduit, par analogie avec le cas
harmonique, les frontières minimales de $\Omega$ :

$$
\begin{equation}
\begin{aligned}
\partial_1^M \Omega &= \{ Y \in \partial^M \Omega : H(\cdot, Y) \text{ est minimale} \}, \\
\partial_2^M \Omega &= \{ Y \in \Delta : L(\cdot, Y) \text{ est minimale} \}.
\end{aligned}
\tag{3.6}
\end{equation}
$$

On rappelle que, dans un espace harmonique, une fonction harmonique $\ge 0$ est dite minimale si toute fonction harmonique $\ge 0$ qui la minore au sens de l'ordre naturel lui est proportionnelle. De même on appelera couple biharmonique minimal tout couple biharmonique $(h,k) \ge 0$ tel que tout couple biharmonique $\ge 0$ qui le minore au sens de l'ordre naturel produit lui est proportionnel.

En considérant des bases compactes dans les cônes des fonctions ℌᵢ-harmoniques positives, i = 1,2, on montre, comme dans le cas harmonique, que les ensembles ∂₁>MΩ et ∂₂>MΩ sont des boréliens de ∂>MΩ.

THÉORÈME 3.9 [8, théorème 3.6]. Soit $Y \in \partial_2^M \Omega$. Si $K(\cdot, Y) < +\infty$, alors le couple $(K(\cdot, Y), L(\cdot, Y))$ est minimal.

THÉORÈME 3.10 [8, théorème 3.7]. Soit $(h,k)$ un couple biharmonique minimal, alors il existe un point $Y \in \partial^M \Omega$ et un réel $\alpha \ge 0$ tel que

$$
(i) h = \alpha H(\cdot, Y) \text{ si } k = 0;
$$

$$
(ii) (h,k) = \alpha(K(\cdot, Y), L(\cdot, Y)) \text{ si } k \neq 0.
$$

THÉORÈME 3.11 [8, théorème 3.10]. Si les fonctions $H(x, \cdot)$, $x \in \Omega$, séparent les points de $\partial_1^M \Omega$ et si les fonctions $L(x, \cdot)$, $x \in \Omega$, séparent les points de $\partial_2^M \Omega$, alors pour tout couple biharmonique $(h,k) \ge 0$ dans $\Omega$, il existe deux mesures de Radon $\mu$ et $\nu$ positives uniques sur $\partial^M \Omega$, portées respectivement par $\partial_1^M \Omega$ et $\partial_2^M \Omega$ telles que

$$
h = \int H(\cdot, Y)d\mu(Y) + \int K(\cdot, Y)d\nu(Y), \quad k = \int L(\cdot, Y)d\nu(Y). \quad (3.7)
$$

4. Ensemble des pôles des couples biharmoniques minimaux purs

On rappelle (voir [6] pour le cas classique) que si $v$ est $\mathcal{H}_i$-surharmonique $\ge 0$ dans $\Omega$,
$i = 1,2$, et si $A \subset \Delta$, on a noté $[]v]^A$ la fonction égale à

$$
\inf \{ u \in \mathcal{U}_i^+ (\Omega) : \exists A_0 \text{ voisinage de } A \text{ dans } \hat{\Omega}; u \ge v \text{ dans } A_0 \cap \Omega \}. \quad (4.1)
$$

Il n'est pas difficile de voir que la fonction []v[]^A est ℌ_i-harmonique dans Ω.

LEMME 4.1. Pour tout $i = 1,2$ et tout $A \subset \partial_i^M \Omega$, on a $[]u[]^A = 0$ ou $[]u[]^A = u$ pour toute fonction $\mathcal{H}_i$-harmonique minimale $u$.

On dit que $Y \in \partial_1^M \Omega$ (resp., $Y \in \partial_2^M \Omega$) est un pôle d'une fonction $\mathcal{H}_1$ (resp., $\mathcal{H}_2$)-harmonique minimale $u$ (resp., $v$) si $[]u[]^{\{Y\}} = u$ (resp., $[]v[]^{\{Y\}} = v$). Il faut noter que l'on a $[]u[]^A = u$ (resp., $[]v]^A = v$) si, et seulement si, le pôle de $u$ (resp., $v$) appartient à $A$. On dit que $Y \in \partial_1^M \Omega \cup \partial_2^M \Omega$ est un pôle d'un couple biharmonique minimal $(u, v)$ si $Y$ est un pôle de $v$ si $v \neq 0$, ou $Y$ est un pôle de $u$ si $v = 0$.
LEMME 4.2. Si $u = \int H(\cdot, Y)d\mu(Y)$ (resp., $v = \int L(\cdot, Y)d\mu(Y)$) où $\mu$ est une mesure de Ra-
don $\ge 0$ sur $\partial^M \Omega$ portée par $\partial_1^M \Omega$ (resp., $\partial_2^M \Omega$), alors on a $[]u[]^A = \int []H(\cdot, Y)][^A d\mu(Y)$
 resp., $[]v]^A = \int []L(\cdot, Y)][^A d\mu(Y)).

On note $H_f^{1,h}$ et $H_g^{2,k}$ la $h$-solution et la $k$-solution du problème de Dirichlet dans les espaces harmoniques $(\Omega, \mathcal{H}_1)$ et $(\Omega, \mathcal{H}_2)$, relativement à la compactification $\tilde{\Omega}$, pour les données frontières $f$ et $g$ lorsqu'elles sont respectivement $h$-$\mathcal{H}_1$-résolutive et $k$-$\mathcal{H}_2$-résolutive (voir par exemple [8]).

LEMME 4.3 [8, lemme 5.6]. Pour toute fonction $\mathcal{H}_i$-harmonique $u > 0$, $i = 1, 2$, on a

$$
H_{1A}^{i,u} = \frac{[]u[]^A}{u}. \qquad (4.2)
$$

PROPOSITION 4.4. *Pour toute fonction $\mathcal{H}_i$-harmonique $u > 0$, $i = 1, 2$, et pour tout $x \in \Omega$, la fonction*

$$
A \subset \partial^M \Omega \to []u[]^A(x) \quad (4.3)
$$

est une capacité de Choquet sur $\partial^M \Omega$.

Démonstration. La proposition résulte aussitôt du lemme précédent et du fait que la fonc-
tion

$$
A \subset \partial^M \Omega \to H_{1A}^{i,u}(x) \quad (4.4)
$$

est une capacité de Choquet qui se démontre comme le résultat classique analogue dans
[6, Chapter VIII, Section 6, page 111]. $\square$

Définition 4.5. Soit $u$ une fonction $\mathcal{H}_i$-harmonique $> 0$ sur $\Omega$, $i = 1, 2$. Un ensemble $A \subset \partial_i^M \Omega$ est dit $u$-polaire si pour tout (ou un) $x \in \Omega$, on a $[]u[]^A(x) = 0$.

Maintenant nous pouvons démontrer le résultat suivant.

THÉORÈME 4.6. *Pour toute fonction $\mathcal{H}_2$-harmonique $k > 0$ telle que $\mathcal{V}(k) < +\infty$, l'ensemble*

$$
A = \{ Y \in \partial_2^M \Omega : K(\cdot, Y) = +\infty \} \quad (4.5)
$$

est k-polaire.

Démonstration. L'ensemble A est un borélien de $\partial^M \Omega$ d'après le corollaire de la Propo-
sition 3.5. Soient $\mu$ et $\nu$ les mesures associées au couple $(\mathcal{V}(k), k)$ dans le théorème 3.11
(on a évidemment $\mu = 0$). Alors, d'après le lemme 4.2, on a

$$
[[k]]^A = \int []L(\cdot, Y)][^A d\nu(Y). \qquad (4.6)
$$

Or on a $[]L(\cdot, Y)][^A = 0$ pour tout $Y \notin A$ et $[]L(\cdot, Y)][^A = L(\cdot, Y)$ pour tout $Y \in A$, d'où

$$
[[k]]^A = \int_A L(\cdot, Y) d\nu(Y), \quad (4.7)
$$
et par suite, en vertu du théorème de Fubini,

$$ \mathcal{V}([k]^A) = \int_A K(\cdot, Y) d\nu(Y). \qquad (4.8) $$

Or comme $\mathcal{V}([k]^A) \le \mathcal{V}(k) \le h + +\infty$ et $K(\cdot, Y) \equiv +\infty$ pour tout $Y \in A$, il résulte de ce qui précède que $\nu(A) = 0$, et donc $[k]^A = 0$. $\square$

Avec les mêmes notations que plus haut, nous avons le résultat suivant.

**THÉORÈME 4.7.** *Pour tout couple $\mathcal{H}$-harmonique pur $(h, k) > 0$, $\nu_k(A) = 0$.*

*Démonstration.* En effet, on a

$$ \int_A L(\cdot, Y) d\nu_k(Y) \le k, \qquad (4.9) $$

d'où, d'après le théorème de Fubini,

$$ \int_A K(\cdot, Y) d\nu_k(Y) \le \mathcal{V}(k) < +\infty. \qquad (4.10) $$

Or on a $K(\cdot, Y) \equiv +\infty$ pour tout $Y \in A$, d'où $\nu_k(A) = 0$. $\square$

On peut se demander si, sous l'hypothèse d'existence d'un couple pur $(h, k) > 0$, l'ensemble $A$ du théorème 4.6 est vide. L'exemple suivant montre que ceci n'est pas vrai en général.

**Exemple 4.8.** Soit $\Omega$ l'espace $]0,1[$ muni de la topologie induite par celle de $\mathbb{R}$. Pour tout ouvert $\omega$ de $\Omega$, on pose :

$$ \begin{gathered} \mathcal{H}_1(\omega) = \{u \in \mathcal{C}^2(\omega); (xu)'' = 0\}, \\ \mathcal{H}_2(\omega) = \{u \in \mathcal{C}(\omega); u(x) = \frac{a}{x^2} + b \text{ dans chaque composante connexe de } \omega\}, \end{gathered} \qquad (4.11) $$

où $\mathcal{C}(\omega)$ (resp., $\mathcal{C}^2(\omega)$) est l'espace des fonctions réelles continues (resp., de classe $\mathcal{C}^2$) sur $\omega$. On vérifie sans peine que les couples $(\Omega, \mathcal{H}_1)$ et $(\Omega, \mathcal{H}_2)$ sont des espaces harmoniques de Brelot qui vérifient l'axiome de proportionnalité. Si $\omega$ est un ouvert de $\Omega$, on pose :

$$ \mathcal{H}(\omega) = \{(u, v) \in \mathcal{C}^2(\omega) \times \mathcal{C}(\omega); (xu)'' = -v, v \in \mathcal{H}_2(\omega)\}. \qquad (4.12) $$

Alors $(\Omega, \mathcal{H})$ est un espace biharmonique dont les espaces harmoniques associés sont $(\Omega, \mathcal{H}_1)$ et $(\Omega, \mathcal{H}_2)$. D'autre part, il est facile de voir que le couple $(p, q)$, où $p(x) = 1 - x/2$ et $q(x) = \inf(1, v_0(x))$, où $v_0(x) = 1/x^2 - 1$ pour tout $x \in ]0, 1[$, est un $\mathcal{H}$-potentiel, de sorte que $(\Omega, \mathcal{H})$ est un espace biharmonique fort.
Les noyaux de Green $G_1$ et $G_2$, normalisés au point $1/2$, des espaces harmoniques $(\Omega, \mathcal{H}_1)$ et $(\Omega, \mathcal{H}_2)$ sont respectivement donnés par

$$
\begin{align*}
G_1(x, y) &= \begin{cases} \frac{1}{y} & \text{si } x \le y, \\ \frac{x(1-x)}{x(1-y)} & \text{si } y \le x, \end{cases} \quad \text{si } 1/2 \le y, \\
G_1(x, y) &= \begin{cases} \frac{1}{y} - 1 & \text{si } x \le y, \\ \frac{1}{x} - 1 & \text{si } y \le x, \end{cases} \quad \text{si } y \le 1/2, \\
G_2(x, y) &= \begin{cases} \frac{1}{y^2} & \text{si } x \le y, \\ \frac{x^2(1-x^2)}{x^2(1-y^2)} & \text{si } y \le x, \end{cases} \quad \text{si } 1/2 \le y, \\
G_2(x, y) &= \begin{cases} \frac{1}{3y^2} - \frac{1}{3} & \text{si } x \le y, \\ \frac{1}{3x^2} - \frac{1}{3} & \text{si } y \le x, \end{cases} \quad \text{si } y \le 1/2.
\end{align*}
\tag{4.13}
$$

On en déduit que la frontière biharmonique de $]0,1[$ coincide avec sa frontière usuelle, soit $\partial^M \Omega = \{0,1\}$. Le noyau $L$ est donné par

$$ L(x, 0) = \frac{1}{3x^2} - \frac{1}{3}, \quad L(x, 1) = 1. \qquad (4.14) $$

On a $K(\cdot, 0) = \mathcal{V}(L(\cdot, 0)) \equiv +\infty$. En effet, si $K(\cdot, 0) < +\infty$, le couple $(K(\cdot, 0), L(\cdot, 0))$ serait biharmonique, d'où nécessairement

$$ K(\cdot, 0)(x) = \frac{\ln x}{x} + \frac{x}{2} + b, \qquad (4.15) $$

où $b$ est une constante, mais ceci est impossible car cette fonction prend des valeurs $< 0$ au voisinage de 0. Par contre, on a

$$ K(\cdot, 1)(x) = \frac{1}{2}(1-x) \qquad (4.16) $$

pour tout $x \in ]0,1[$.

Il faut noter que le faisceau $\mathcal{H}$ ci-dessus sur $\Omega$ est induit par l'espace biharmonique $(\Omega', \mathcal{H}')$ de l'exemple 2 de la page 584 de [7], et que la frontière de Martin de $\Omega$ est identique à la frontière de $\Omega$ dans $\Omega'$, et l'ensemble $\{0\}$ (complémentaire de l'ensemble des pôles de couples minimaux purs) est $\mathcal{H}'_2$-polaire. Ceci nous conduit à poser les questions suivantes.

**Question 4.9.** Étant donné un domaine $\Omega$ de $\mathbb{R}^n$ dont la frontière de Martin est homéomorphe à sa frontière euclidienne. Est ce que tout point frontière de $\Omega$ est pôle d'un couple biharmonique minimal pur ?
*Question 4.10.* Si la réponse à la question précédente est négative, est ce que l'ensemble des points de $\partial\Omega$, qui ne sont pas les pôles de couples biharmoniques minimaux purs, est polaire ?

**5. Cas d'un domaine lipschitzien de $\mathbb{R}^n$**

Soit $\Omega$ un domaine lipschitzien borné de $\mathbb{R}^n$. Considérons l'opérateur différentiel $P$ défini sur $\Omega$ par

$$Pu = \Delta u + u, \quad \forall u \in \mathcal{C}^2(\Omega). \qquad (5.1)$$

A cet opérateur est associé un faisceau de Brelot notés $\mathcal{H}_P$ (voir [2] par exemple) : les $u \in \mathcal{H}_P(\omega)$, $\omega$ ouvert de $\Omega$, sont les solutions de classe $\mathcal{C}^2$ sur $\omega$ de l'équation $Pu = 0$; on sait aussi que $\mathcal{H}_P$ vérifie les propriétés d'unicité des potentiels de support ponctuels. On rappelle que d'après [10] l'effilement (au sens local) par rapport à $P$ coincide avec l'effilement classique et, de ce fait, les points irréguliers de $\partial\Omega$ relativement à $P$ coincident avec les points irréguliers au sens classique.

Notons $G_P$ et $G_\Omega$ les noyaux de Green de $\Omega$ relatifs aux opérateurs $P$ et $\Delta$ respective-ment. $G_P$ et $G_\Omega$ sont supposés normalisés de sorte que $PG_P(\cdot, y) = \Delta G_\Omega = -\epsilon_y$, pour tout $y \in \Omega$, où $\epsilon_y$ est la mesure de Dirac au point $y$. Alors on peut trouver, d'après [3], une constante $c > 0$ telle que

$$\frac{1}{c} G_P \leq G_\Omega \leq c G_P. \qquad (5.2)$$

Il est bien connu d'après un théorème de Hunt et Wheeden ([11, 12]), étendu par Ancona dans [2] à une large classe d'opérateurs du second ordre contenant l'opérateur $P$, que les frontières de Martin de $\Omega$ relatives aux opérateurs $P$ et $\Delta$ s'identifient à la frontière euclidienne $\partial\Omega$ de $\Omega$. Plus précisemment, on sait d'après [2], qu'à tout point $Y \in \partial\Omega$ correspondent deux fonctions $H(\cdot, Y)$ et $H_P(\cdot, Y)$ respectivement harmonique et $P$-harmoniques minimales, uniques, normalisées en un point $x_0$ fixé dans $\Omega$, bornées au voisinage de tout point $Y' \in \partial\Omega$ distinct de $Y$ et tendent même vers 0 en $Y'$ si $Y'$ est régulier.

On déduit de (5.2) que l'on a

$$\frac{1}{c^2} H_P(\cdot, Y) \leq H(\cdot, Y) \leq c^2 H_P(\cdot, Y). \qquad (5.3)$$

D'autre part, on a, pour tout $Y \in \partial\Omega$, $\Delta H_P(\cdot, Y) = -H_P(\cdot, Y)$ de sorte que $\mathcal{V}_\Omega H_P(\cdot, Y) = H_P(\cdot, Y)$, où $\mathcal{V}_\Omega$ est le noyau défini par

$$\mathcal{V}_\Omega f(x) = \int_{\Omega} G_\Omega(x, y) f(y) dy \qquad (5.4)$$

pour toute fonction borélienne $\ge 0$ sur $\Omega$. Il résulte alors de (5.3) que l'on a $\mathcal{V}_\Omega H(\cdot, Y) < +\infty$ pour tout $Y \in \partial\Omega$, autrement dit, la fonction $\mathcal{V}_\Omega H(\cdot, Y)$ est biharmonique.
Notons que la frontière de Martin biharmonique de l'espace biharmonique Ω muni du faisceau biharmonique défini par

$$ \mathcal{H}(\omega) = \{(u, v) \in \mathcal{C}^2(\omega) : \Delta u = -v, \Delta v = 0\} \quad (5.5) $$

pour tout ouvert $\omega$ de $\Omega$, coincide avec $\partial\Omega$. Nous pouvons résumer ce qui précède dans l'énoncé suivant.

**THÉORÈME 5.1.** *Pour tout point $Y \in \partial\Omega$, la fonction $K_Y = V_\Omega H(\cdot, Y)$ est biharmonique.*

On voit donc que la réponse à la question 4.9 est positive dans le cas où le domaine $\Omega$ est lipschitzien borné.

**Remarque 5.2.** *Il semble que théorème 5.1 s'étend à la classe des domaines uniformément de John qui contient strictement celle des domaines lipschitziens (voir [1]). Nous y re-viendrons dans un travail ultérieur.*

## Références

[1] H. Aikawa, T. Lundh, and T. Mizutani, *Martin boundary of a fractal domain*, Potential Anal. **18** (2003), no. 4, 311–357.

[2] A. Ancona, *Principe de Harnack à la frontière et problèmes de frontière de Martin*, Potential Theory, (Proc. Colloq., Copenhagen, 1979), Lecture Notes in Math., vol. 787, Springer, Berlin, 1980, pp. 9–28.

[3] ———, *Comparaison des mesures harmoniques et des fonctions de Green pour des opérateurs elliptiques sur un domaine lipschitzien*, C. R. Acad. Sci. Paris Sér. I Math. **294** (1982), no. 15, 505–508.

[4] N. Bouleau, Thèse de doctorat d'état es sciences, Université de Paris VI, 1979.

[5] G. Choquet, *Lectures on Analysis. Vol. II : Representation Theory* edited by J. Marsden, T. Lance, and S. Gelbart, W. A. Benjamin, New York, 1969.

[6] J. L. Doob, *Classical Potential Theory and Its Probabilistic Counterpart*, Grundlehren der Mathematischen Wissenschaften, vol. 262, Springer, New York, 1984.

[7] M. El Kadiri, *Sur la représentation intégrale en théorie axiomatique des fonctions biharmoniques*, Rev. Roumaine Math. Pures Appl. **42** (1997), no. 7-8, 579–589.

[8] ———, *Frontière de Martin biharmonique et représentation intégrale des fonctions biharmoniques [Biharmonic Martin boundary and integral representation of biharmonic functions]*, Positivity **6** (2002), no. 2, 129–145.

[9] L. L. Helms, *Introduction to Potential Theory*, Pure and Applied Mathematics, vol. 22, Wiley-Interscience, New York, 1969.

[10] R. M. Hervé, *Recherches axiomatiques sur la théorie des fonctions surharmoniques et du potentiel*, Ann. Inst. Fourier (Grenoble) **12** (1962), 415–571.

[11] R. A. Hunt and R. L. Wheeden, *On the boundary values of harmonic functions*, Trans. Amer. Math. Soc. **132** (1968), 307–322.

[12] ———, *Positive harmonic functions on Lipschitz domains*, Trans. Amer. Math. Soc. **147** (1970), 507–527.

[13] E. P. Smyrnélis, *Axiomatique des fonctions biharmoniques. I*, Ann. Inst. Fourier (Grenoble) **25** (1975), no. 1, 35–97.
1472 Remarques sur la frontière de Martin biharmonique

[14] __________, *Axiomatique des fonctions biharmoniques*. II, Ann. Inst. Fourier (Grenoble) **26** (1976), no. 3, ix, 1–47.

Mohamed El Kadiri: Department de Mathématiques et d'Informatique, Faculté des Sciences, Université Mohammed V Agdal Rabat, B.P. 1014, Rabat, Maroc

*E-mail address: elkadiri@fsr.ac.ma*

Sabah Haddad: Department de Mathématiques et d'Informatique, Faculté des Sciences, Université Mohammed V Agdal Rabat, B.P. 1014, Rabat, Maroc
<figure><img src="image_1.png" /></figure>

<figure><img src="image_2.png" /></figure>

<figure><img src="image_3.png" /></figure>

<figure><img src="image_4.png" /></figure>

<figure><img src="image_5.png" /></figure>

<figure><img src="image_6.png" /></figure>

<figure><img src="image_7.png" /></figure>

<figure><img src="image_8.png" /></figure>

<figure><img src="image_9.png" /></figure>

<figure><img src="image_10.png" /></figure>

<figure><img src="image_11.png" /></figure>

<figure><img src="image_12.png" /></figure>

Hindawi

Submit your manuscripts at
http://www.hindawi.com

<figure><img src="image_13.png" /></figure>

<figure><img src="image_14.png" /></figure>

<figure><img src="image_15.png" /></figure>

<figure><img src="image_16.png" /></figure>

<figure><img src="image_17.png" /></figure>

<figure><img src="image_18.png" /></figure>

<figure><img src="image_19.png" /></figure>

<figure><img src="image_20.png" /></figure>