# Processus de Galton-Watson

Le processus de Galton-Watson (ou processus de Bienaymé-Galton-Watson) est un processus stochastique permettant de décrire des dynamiques de populations. C'est un cas particulier de processus de branchements.

## Historique

À l'origine, ce modèle a été introduit par Bienaymé en 1845 et indépendamment par Galton en 1873 en vue d'étudier la disparition des patronymes.
Supposons que chaque adulte mâle transmette son patronyme à chacun de ses enfants. Supposons également que le nombre d'enfants de chaque homme soit une variable aléatoire entière (et que la distribution de probabilité soit la même pour tous les hommes dans une lignée). Alors, un patronyme dont les porteurs ont un nombre d'enfant strictement inférieur à 1 en moyenne est amené à disparaître. Inversement, si le nombre moyen d'enfants est supérieur à 1, alors la probabilité de survie de ce nom est non nulle et en cas de survie, le nombre de porteurs du patronyme connaît une croissance exponentielle.

## Formulation générale

On suppose l'existence d'une population d'individus qui se reproduisent de manière indépendante. Chaque individu i donne naissance à $X_{i}$ individus et meurt. On suppose que les $X_{i}$ sont des variables aléatoires indépendantes à valeurs entières suivant la distribution $p=\left(p_{k}\right)_{k\in \mathbb {N} }.$ Par exemple,
* si, avec probabilité $p_{0}=\mathbb {P} (X_{i}=0),$ $X_{i}=0,$ alors l'individu i meurt sans se reproduire ;
* si, avec probabilité $p_{1}=\mathbb {P} (X_{i}=1),$ $X_{i}=1,$ alors il y a un remplacement un-pour-un de l'individu i ;
* etc.
Notation — La fonction génératrice $\varphi ,$ associée à la distribution de probabilité $p=\left(p_{k}\right)_{k\in \mathbb {N} },$ définie par :
$\varphi (s)\ =\ \sum _{n\geq 0}\,p_{n}\,s^{n}\ =\ \mathbb {E} \left[s^{X_{i}}\right],$
est d'une importance particulière dans la discussion des résultats essentiels sur les processus de Galton-Watson.

## Paramètre critique et classification des processus de Galton-Watson

Notons $Z_{n}$ la taille de la population à la n-ème génération. On suppose souvent que la population possède un seul ancêtre, ce qui se traduit par
$Z_{0}=1.$
Le nombre
$m\ =\ \sum _{k}kp_{k}\ =\ \varphi ^{\prime }(1)$
désigne le nombre moyen d'enfants d'un individu typique de la population considérée. L'évolution de la taille moyenne de la population est gouvernée par la formule de récurrence suivante, conséquence de la formule de Wald :
$\mathbb {E} [Z_{n+1}]\ =\ m\ \mathbb {E} [Z_{n}],$
d'où il résulte que
$\mathbb {E} [Z_{n}]\ =\ m^{n}.$
Définition — Si, à partir d'un certain rang, tous les termes de la suite $\left(Z_{n}\right)_{n\geq 0}$ sont nuls, on dit qu'il y a extinction de la population.
Classification des processus de Galton-Watson — Il existe deux régimes séparés par une valeur critique du paramètre $m$:
* Si m < 1, le processus de Galton-Watson est dit sous-critique. L'extinction de la population se produit avec probabilité 1 ;
* Si m > 1, le processus de Galton-Watson est dit sur-critique. Alors la probabilité de survie de ce nom est non nulle (la probabilité d'extinction est inférieure strictement à 1). En cas de survie, le nombre de porteurs du patronyme connaît une croissance exponentielle.
* Si m = 1, alors le processus de Galton-Watson est dit critique. Son comportement est plus complexe et sera discuté dans la suite.

## Notation de Neveu

La notation de Neveu permet de décrire rigoureusement l'évolution de la population à l'aide d'un arbre planaire enraciné, qui est en fait l'arbre généalogique de cette population. Cet arbre planaire enraciné peut être décrit de manière non ambigüe par la liste de ses sommets, chacun désigné par une suite finie d'entiers, qui sont les positions, au sein de leur fratrie, des ancêtres (ou ascendants) de ce sommet : le sommet 2|4|3 désigne le 3e fils du 4e fils du 2e fils de l'ancêtre (l'ancêtre étant lui-même désigné par la suite vide, notée $\emptyset$). Par convention, l'ancêtre est le sommet initial de l'arête racine, et le sommet final de l'arête racine est le fils ainé de l'ancêtre : en tant que tel, il est donc noté 1. La longueur de la suite associée à un sommet est la hauteur (ou la profondeur) du sommet, i.e. la distance entre ce sommet et le début de la racine, qui représente l'ancêtre : en filant la métaphore, un sommet de hauteur n représente un individu appartenant à la n-ème génération de la population fondée par l'ancêtre. Les 5 arbres à 3 arêtes :
sont ainsi décrits par les 5 ensembles de mots
$\{\emptyset ,1,2,3\},\ \{\emptyset ,1,11,2\},\ \{\emptyset ,1,2,21\},\ \{\emptyset ,1,11,12\},\ \{\emptyset ,1,11,111\}.$
Avec cette notation, un arbre planaire encode commodément une réalisation de processus de Galton-Watson avec extinction : cet arbre est alors appelé arbre de Galton-Watson. Rien ne s'oppose à définir un arbre planaire infini à l'aide de la notation de Neveu, ce qui permet d'encoder les réalisations de processus de Galton-Watson où la population ne s'éteint pas.
L'arbre de la figure ci-contre correspond à une suite de variables aléatoires $X_{i},$ ainsi définies :
$(X_{\emptyset },X_{1},X_{2},X_{3},X_{11},X_{12},X_{111},X_{121},X_{122},\dots )\ =\ (3,2,0,0,1,2,1,0,1,\dots ).$
Ainsi, un processus de Galton-Watson peut-être vu comme une fonctionnelle déterministe d'une famille $\left(X_{i}\right)_{i\in \mathbb {N} ^{\star }}$ de variables aléatoires indépendantes et de même loi $p=\left(p_{k}\right)_{k\in \mathbb {N} },$ la variable $X_{i}$ désignant la progéniture de l'individu i (le nombre d'enfants auxquels il donne naissance en mourant). Ici $\mathbb {N} ^{\star }$ désigne l'ensemble (dénombrable) des suites d'entiers de longueurs finies (éventuellement de longueur nulle dans le cas de $\emptyset$) :
$\mathbb {N} ^{\star }=\{\emptyset \}\cup \mathbb {N} \cup \mathbb {N} ^{2}\cup \mathbb {N} ^{3}\cup \dots$
Certaines variables aléatoires de la suite $\left(X_{i}\right)_{i\in \mathbb {N} ^{\star }}$ n'ont pas d'influence sur le processus de Galton-Watson : dans l'exemple ci-contre, $X_{4}$ ou $X_{126}$ n'ont pas d'importance car l'ancêtre a strictement moins de 4 enfants ($X_{\emptyset }=3$) et l'individu 12 a strictement moins de 6 enfants ($X_{12}=2$). De même les progénitures des individus de la 5e génération (les $X_{i}$ correspondant aux suites i de longueur 5) n'influencent pas cette réalisation du processus de Galton-Watson, car la population s'éteint à la 4e génération ($X_{1111}=X_{1221}=0$).

## Étude fine de la taille des générations

Notons $\varphi _{n}$ la fonction génératrice de la variable aléatoire $Z_{n},$ définie par
$\varphi _{n}(s)\ =\ \sum _{k\geq 0}\,\mathbb {P} (Z_{n}=k)\,s^{k}\ =\ \mathbb {E} \left[s^{Z_{n}}\right].$
Posons
$p_{\ell }^{\star k}\ =\ [s^{\ell }]\varphi ^{k}(s)\ =\ \mathbb {P} (X_{1}+\dots +X_{k}=\ell ),$
où les X$_i$ sont des variables aléatoires indépendantes, toutes de loi $p$ ; $p^{\star k}=\left(p_{\ell }^{\star k}\right)_{\ell \geq 0}$ est la k ème puissance de convolution de la loi $p.$
En vertu de la propriété de composition des fonctions génératrices, on a la relation suivante :
$\varphi _{n+1}\ =\ \varphi _{n}\circ \varphi .$
Pour pouvoir appliquer la propriété de composition des fonctions génératrices, il faut se convaincre que $Z_{n+1}$ (l'effectif de la n+1 ème génération) a même loi que la somme de $Z_{n}$ variables aléatoires indépendantes, toutes de loi $p,$ et indépendantes de $Z_{n}.$ Bien sûr, $Z_{n+1}$ est la somme des progénitures des $Z_{n}$ individus appartenant à la n ème génération, mais, contrairement au contexte de la propriété de composition des fonctions génératrices, on ne choisit pas les $Z_{n}$ premiers termes d'une suite de variables aléatoires i.i.d. indexées par $\mathbb {N}$ : dans la notation de Neveu, par exemple, la suite de variables aléatoires i.i.d. est indexée par $\mathbb {N} ^{n},$ et les $Z_{n}$ variables de la suite intervenant dans la somme sont choisies en fonction de toute l'histoire de la population, jusqu'à la n-ème génération (non incluse). Une fois qu'on s'est convaincu que, malgré cela, $Z_{n+1}$ (l'effectif de la n+1 ème génération) a même loi que la somme de $Z_{n}$ variables aléatoires indépendantes, toutes de loi $p,$ et indépendantes de $Z_{n},$ on en déduit que
$\varphi _{n+1}\ =\ \varphi _{n}\circ \varphi .$
Un énoncé précis utilise la notion de loi conditionnelle : pour pouvoir appliquer la propriété de composition des fonctions génératrices, on doit vérifier que, pour tout k, la loi conditionnelle de $Z_{n+1}$ sachant l'évènement $\{Z_{n}=k\}$ est la loi de la somme de k variables aléatoires indépendantes, toutes de loi $p,$ loi décrite par $\left(p_{\ell }^{\star k}\right)_{\ell \geq 0}.$ Pour vérifier cela, on est amené à calculer la loi conditionnelle sachant un évènement plus précis que $\{Z_{n}=k\},$ i.e. sachant la composition exacte de la n-ème génération. Soit L un ensemble d'éléments de $\mathbb {N} ^{n}.$ Notons $A_{L}$ l'évènement :
$A_{L}\ =\ \{{\mathrm {les~individus~formant~la~} n\,\mathrm {-{\grave {e}}me~g{\acute {e}}n{\acute {e}}ration~de~la~population~sont~exactement~les~{\acute {e}}l{\acute {e}}ments~de~} L}\}.$
En particulier les ancêtres des individus appartenant à L sont connus, donc $A_{L}$ apporte une information sur les générations 1, 2, ... jusqu'à la génération n-1. On constate que l'évènement $A_{L}$ appartient à la tribu engendrée par la famille des $X_{i},$ où i est une suite de longueur inférieure ou égale à n-1. Par ailleurs,
$\mathbb {P} \left(Z_{n+1}=\ell \,|\,A_{L}\right)=\mathbb {P} \left(\left\{\sum _{j\in L}X_{j}\ =\ \ell \right\}\ \cap A_{L}\right)\left(\mathbb {P} (A_{L})\right)^{-1}$
Comme L est disjoint de l'ensemble des suites de longueur inférieure ou égale à n-1, le lemme de regroupement entraîne que
$\mathbb {P} \left(Z_{n+1}=\ell \,|\,A_{L}\right)=\mathbb {P} \left(\sum _{j\in L}X_{j}\ =\ \ell \right)=p_{\ell }^{\star |L|}.$
Cette dernière probabilité dépend de $\ell ,$ mais, surtout, elle dépend de L uniquement à travers son cardinal $|L|=Z_{n}.$ Donc, dès que $|L|=k,$
$\mathbb {P} \left(Z_{n+1}=\ell \,|\,A_{L}\right)=\mathbb {P} \left(Z_{n+1}=\ell \,|\,Z_{n}=k\right)=p_{\ell }^{\star |L|},$
en vertu d'une variante de la formule des probabilités totales. Accessoirement ceci montre que la suite $(Z_{n})_{n\geq 0}$ possède la propriété de Markov. Plus précisément, c'est une chaine de Markov homogène de probabilité de transition $\left(p_{\ell }^{\star k}\right)_{k,\ell \geq 0}.$
En remarquant que
$\varphi _{0}\ =\ {\text{Id}},$
on en déduit, par récurrence, que
$\varphi _{n}\ =\ \varphi ^{\circ n},$
puis la relation de récurrence fondamentale. On peut aussi obtenir cette relation plus directement, en décomposant $Z_{n+1}$ différemment (comme somme de X copies de $Z_{n}$ plutôt que comme somme de $Z_{n}$ copies de X).
* La relation de récurrence sur l'espérance de $Z_{n},$
$\mathbb {E} [Z_{n+1}]\ =\ \varphi ^{\prime }\left(1\right)\ \mathbb {E} [Z_{n}],$
    découle alors de la formule de dérivation des fonctions composées.
* À l'aide de la relation de récurrence fondamentale, on trouve aussi, le cas échéant, une formule de récurrence pour la variance de $Z_{n}.$
* La démonstration de la formule de récurrence fondamentale montre aussi (modulo quelques modifications) que la suite $(Z_{n})_{n\geq 0}$ est une chaine de Markov dont la matrice de transition $\left(p_{i,j}\right)_{i,j\geq 0}$ est définie par $p_{k,\ell }\,=\,p_{\ell }^{\star k}.$

### Cas sur-critique

Dans le cas sur-critique, la taille de la population croît à vitesse exponentielle sur un ensemble assez large.
Théorème — Si la loi de la progéniture est intégrable, de moyenne m>1, alors il existe une variable aléatoire M telle que, presque sûrement,
$\lim \ {\dfrac {Z_{n}}{m^{n}}}\ =\ M.$
Si, de plus, la loi de la progéniture est de carré intégrable, alors $\mathbb {P} (M>0)>0.$ Par ailleurs, ${\dfrac {Z_{n}}{m^{n}}}$ converge vers M dans L$_2$.
Des résultats plus précis peuvent être obtenus grâce au théorème de Kesten-Stigum$^,$.
Soit $(X_{i,j})_{i,j}$ une famille indépendante et identiquement distribuée de variables aléatoires de loi $(p_{k})_{k}$, de moyenne $m\ >\ 1$. On définit la filtration :
${\mathcal {F}}_{n}\ =\ \sigma (X_{i,j},i\in \mathbb {N} ,j\leq n).$
Alors le processus défini par récurrence par :
$Z_{0}\ =\ 1,$
$Z_{n+1}\ =\ \sum _{i=1}^{Z_{n}}X_{i,n+1}$
est un processus de Galton-Watson de loi de reproduction $(p_{k})_{k}$. On définit alors le processus :
$M_{n}={\dfrac {Z_{n}}{m^{n}}},$
qui est une ${\mathcal {F}}_{n}$-martingale. En effet,
${\begin{aligned}\mathbb {E} \left[Z_{n+1}\left|{\mathcal {F}}_{n}\right.\right]&=\mathbb {E} \left[\sum _{i=1}^{Z_{n}}X_{i,n+1}\left|{\mathcal {F}}_{n}\right.\right]\\&=\sum _{i=1}^{Z_{n}}\mathbb {E} \left[X_{i,n+1}\left|{\mathcal {F}}_{n}\right.\right]\\&=mZ_{n},\end{aligned}}$
ce qui entraîne que
$\mathbb {E} \left[M_{n+1}\left|{\mathcal {F}}_{n}\right.\right]=M_{n}.$
Comme $M_{n}$ est une martingale positive, elle converge presque sûrement vers une variable aléatoire réelle $M.$
Si on suppose de plus que $\mathbb {E} [X_{i,j}^{2}]\ <\infty$, on peut démontrer que l'ensemble $\{\omega \in \Omega \,|\,M(\omega )\ >\ 0\}$ est de mesure positive, et qu'il est égal presque sûrement à l'ensemble de non-extinction de l'arbre $\{\liminf Z_{n}\ >\ 0\}.$ En effet, dans ce cas, un calcul par récurrence montre que $M_{n}$ est bornée dans $L^{2}.$ On en déduit alors la convergence dans $L^{2}$ de $M_{n}$ vers $M$. On a alors, en particulier,
$\mathbb {E} [M]=\lim _{n}\mathbb {E} [M_{n}]=\mathbb {E} [M_{0}]=\mathbb {E} [Z_{0}]=1.$
Par conséquent $M\ >\ 0$ sur un ensemble de mesure non nulle.
Ainsi, presque sûrement, $m^{n}M(\omega )$ est une bonne approximation, au premier ordre, du nombre $Z_{n}(\omega )$ d'individus de la génération $n,$ du moins sur l'ensemble $\{\omega \in \Omega \,|\,M(\omega )\ >\ 0\},$ ensemble qui a une probabilité non nulle.

### Un calcul explicite

Il y a assez peu d'exemples où la formule de récurrence fondamentale conduit à un calcul explicite de $\varphi _{n}.$ L'exemple le plus connu est celui où la loi de reproduction est un mélange de masse de Dirac en 0 et de loi géométrique,
$\mathbb {P} (X_{i}=k)\ =\ \alpha 1\!\!1_{k=0}+(1-\alpha )(1-p)^{k-1}p\,1\!\!1_{k\geq 1},\quad (\alpha ,p)\in [0,1]\times ]0,1],$
d'espérance
$m\ =\ \mathbb {E} [X_{i}]\ =\ {\frac {1-\alpha }{p}}.$
Cela correspond exactement aux fonctions génératrices $\varphi$ qui sont des homographies :
$\varphi (s)\ =\ \alpha \ +\ (1-\alpha )\ {\frac {ps}{1-(1-p)s}}.$
D'après la classification des homographies en fonction du nombre de points fixes, l'homographie $\varphi$ est conjuguée à des applications dont les itérées se calculent simplement, à savoir à $x\ \rightarrow \ x/m$ dans les cas non critiques (deux points fixes, 1 et ${\tfrac {\alpha }{1-p}}$) et à $x\ \rightarrow \ x+c$ dans le cas critique (un point fixe double, 1).

#### Cas non critique

Dès que $\alpha \neq 1-p,$ on trouve, par diagonalisation d'une application linéaire associée à l'homographie $\varphi ,$
${\frac {\varphi (s)-{\tfrac {\alpha }{1-p}}}{\varphi (s)-1}}\ =\ {\frac {p}{1-\alpha }}\ {\frac {s-{\tfrac {\alpha }{1-p}}}{s-1}}\ =\ {\frac {1}{m}}\ {\frac {s-{\tfrac {\alpha }{1-p}}}{s-1}},$
ce qui entraine
${\frac {\varphi _{n}(s)-{\tfrac {\alpha }{1-p}}}{\varphi _{n}(s)-1}}\ =\ {\frac {1}{m^{n}}}\ {\frac {s-{\tfrac {\alpha }{1-p}}}{s-1}},$
et conduit à un calcul explicite de $\varphi _{n}.$

#### Cas critique

Le cas $\alpha =1-p$ est le cas critique $m=1.$ On trouve, toujours en raisonnant sur une application linéaire (non diagonalisable) associée à l'homographie $\varphi ,$
${\frac {\varphi (s)+1}{\varphi (s)-1}}\ =\ {\frac {s+1}{s-1}}\ +\ 2\ {\tfrac {p-1}{p}}\ =\ {\frac {s+1}{s-1}}\ +\ c,$
donc
${\frac {\varphi _{n}(s)+1}{\varphi _{n}(s)-1}}\ =\ {\frac {s+1}{s-1}}\ +\ nc.$
Finalement $\varphi _{n}$ est une homographie :
$\varphi _{n}(s)\ =\ {\frac {(nc+2)s-nc}{ncs+2-nc}},$
ce qui correspond au choix de paramètres $(\alpha _{n},p_{n})$ suivant :
$p_{n}={\frac {p}{p+n(1-p)}}=\mathbb {P} (Z_{n}>0)=\mathbb {P} (T>n),\;\alpha _{n}=1-p_{n}.$
Ici T désigne la date d'extinction, i.e. le numéro de la première génération vide.

## Probabilité d'extinction

Théorème — La probabilité d'extinction $\mathbb {P} ({\mathcal {E}})$ d'un processus de Galton-Watson dont la distribution de la progéniture est $p=\left(p_{k}\right)_{k\in \mathbb {N} },$ est la plus petite solution, dans l'intervalle [0,1], de l'équation :
$\varphi (s)\ =\ s.$
Cela résulte de ce que
${\mathcal {E}}\ =\ \bigcup _{n\geq 0}\{Z_{n}=0\}\quad {\text{et}}\quad \left\{\{Z_{n}=0\}\Rightarrow \{Z_{n+1}=0\}\right\},$
d'où il suit, par propriété de limite croissante, que
$\mathbb {P} ({\mathcal {E}})\ =\ \lim _{n}\mathbb {P} (Z_{n}=0).$
Par ailleurs la suite
$u_{n}\ =\ \mathbb {P} (Z_{n}=0)$
est définie par $u_{0}=0$ (car $Z_{0}=1$), et par la relation de récurrence
$u_{n+1}\ =\ \varphi (u_{n}),$
ce qui conduit à voir $\mathbb {P} ({\mathcal {E}})$ comme un point fixe de φ.
Pour démontrer la relation de récurrence sur $u_{n},$ notons que
$\varphi _{n}(0)\ =\ \mathbb {P} (Z_{n}=0)\ =\ u_{n}.$
Donc
$u_{n+1}\ =\ \varphi _{n+1}(0)\ =\ \varphi (\varphi _{n}(0))\ =\ \varphi (u_{n}).$
Maintenant, supposons qu'il existe un point fixe $\ell$ de $\varphi$ dans l'intervalle [0;1]. Alors, la fonction $\varphi$ étant croissante sur l'intervalle [0;1], $\{u_{0}\leq \ell \ {\text{et}}\ u_{0}\leq u_{1}\}$ entraine $\{u_{0}\leq u_{1}\leq \ell \},$ puis, par récurrence, $\{\forall n,\ u_{n}\leq u_{n+1}\leq \ell \}.$ Mais, d'une part, $\varphi (0)=p_{0}\geq 0$ (ce qui peut être réécrit $u_{1}\geq u_{0}$), d'autre part $\varphi (1)=1.$ Ainsi, la suite $(u_{n})_{n\geq 0}$ est croissante et majorée par 1, donc convergente. De plus, on a vu que la suite $(u_{n})_{n\geq 0}$ est majorée par tout point fixe $\ell$ de $\varphi$ appartenant à l'intervalle [0;1]. La limite de la suite $(u_{n})_{n\geq 0}$ est donc, elle aussi, majorée par tout point fixe $\ell$ de $\varphi$ appartenant à l'intervalle [0;1]. Mais comme la fonction $\varphi$ est continue sur l'intervalle [0;1], sa limite est un des points fixes de la fonction $\varphi ,$ donc, forcément, le plus petit d'entre eux.
Comme $\varphi$ est une série entière de rayon de convergence au moins égal à 1, à coefficients positifs ou nuls, $\varphi$ est convexe (et même strictement convexe si p$_0$+p$_1$<1), et indéfiniment dérivable sur l'intervalle ]0,1[, et possède donc au plus 2 points fixes dans l'intervalle [0;1], sauf si $\varphi (s)\equiv s.$ Un théorème analogue concernant les cartes planaires aléatoires (une généralisation naturelle des arbres aléatoires) a été démontré en 2007.
* si $\varphi (s)\equiv s,$ le théorème dit que la probabilité d'extinction $\mathbb {P} ({\mathcal {E}})$ est nulle. Cela peut être vu directement sans difficulté, car $\varphi (s)\equiv s$ équivaut à $p_{1}=1,$ ce qui entraine immédiatement que chaque génération est constituée d'exactement un individu ;
* plus généralement, si $p_{0}=0,$ 0 est point fixe, donc, d'après le théorème, $\mathbb {P} ({\mathcal {E}})$ est nulle (on pouvait le voir directement, puisque, en ce cas, chaque individu de la population a au moins un enfant) ;
* si $p_{0}+p_{2}=1,$ les deux points fixes sont 1 et $p_{0}/p_{2},$ donc, comme on pouvait s'y attendre, la probabilité d'extinction vaut 1 si $p_{0}\geq p_{2},$ et vaut moins que 1 (en fait $\mathbb {P} ({\mathcal {E}})=p_{0}/p_{2}$) si $p_{0}<p_{2}.$ Ici, la valeur de $\mathbb {P} ({\mathcal {E}})$ est difficile à calculer directement, sans utiliser le théorème. La figure ci-contre montre plusieurs valeurs de $p_{0},$ et la probabilité d'extinction correspondante.
Plus généralement
Théorème —  On distingue 3 cas :
* Cas souscritique (m<1). La probabilité d'extinction $\mathbb {P} ({\mathcal {E}})$ vaut 1.
* Cas critique (m =1). La probabilité d'extinction $\mathbb {P} ({\mathcal {E}})$ vaut 1, sauf si $p_{1}=1,$ et, dans ce dernier cas, la probabilité d'extinction est nulle.
* Cas surcritique (m>1). La probabilité d'extinction $\mathbb {P} ({\mathcal {E}})$ est strictement inférieure à 1 (et est le plus petit point fixe de φ dans l'intervalle [0;1]).
Cela résulte de ce que
$m\ =\ \varphi ^{\prime }(1).$
En effet :
* Cas sous-critique. Si m<1, la tangente en (1;1) au graphe de φ est, dans l'intervalle [0;1[, strictement au-dessus de la droite d'équation y=x, et, φ étant convexe, le graphe de φ est au-dessus de sa tangente, donc, lui aussi, strictement au-dessus de la droite d'équation y=x : le seul point fixe de φ est 1.
* Cas critique. Si m =1, la tangente en (1;1) au graphe de φ est la droite d'équation y=x. Si φ est strictement convexe, le graphe de φ est strictement au-dessus de sa tangente, donc le seul point fixe de φ est 1. Or φ est strictement convexe si et seulement si $p_{0}+p_{1}<1$ (comme on le voit en calculant la dérivée seconde de φ). Sinon φ est une fonction affine, donc son graphe est confondu avec ses tangentes, en particulier, ici, avec la droite d'équation y=x. Donc $p_{1}=1.$
* Cas surcritique. Si m>1, la tangente en (1;1) au graphe de φ est strictement au-dessous de la droite d'équation y=x, donc, sur un intervalle [1-ε,1[ bien choisi, φ lui-même est strictement au-dessous de la droite d'équation y=x. En 0, par contre, comme $\varphi (0)=p_{0}\geq 0,$ le graphe de φ est au-dessus de la droite d'équation y=x. Donc, en vertu du théorème des valeurs intermédiaires, φ possède un point fixe strictement plus petit que 1.
Le comportement du processus de Galton-Watson dans les cas sous-critique et surcritique correspond à l'intuition. Par contre, le comportement du processus de Galton-Watson dans le cas critique aléatoire (l'extinction est certaine) est radicalement différent du comportement du processus de Galton-Watson dans le cas critique déterministe (chaque individu a exactement un enfant et l'extinction est impossible).