# Analyse discriminante typologique sous contrainte

Yves Lemoine

► To cite this version:

Yves Lemoine. Analyse discriminante typologique sous contrainte. [Rapport de recherche] IRIA-RR-316, IRIA. 1978, pp.26. hal-04716520

HAL Id: hal-04716520

https://inria.hal.science/hal-04716520v1

Submitted on 1 Oct 2024

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
<figure><img src="image_2.png" /></figure>

laboria

laboratoire de recherche
en informatique
et automatique

ANALYSE
DISCRIMINANTE TYPOLOGIQUE
SOUS CONTRAINTE

Yves LEMOINE

Rapport de Recherche N° 316

Juillet 1978

Institut de Recherche
d'Informatique
et d'Automatique

Domaine de Voluceau
Rocquencourt
B. P. 105 78150 - Le Chesnay
France
Tél.: 954 90 20
ANALYSE DISCRIMINANTE TYPOLOGIQUE SOUS CONTRAINTE

Yves Lemoine

RÉSUMÉ

En discrimination, la population est répartie en groupes définis a priori. Or dans la pratique, ces
classes sont souvent subjectives ou floues. L'analyse discriminante typologique permet la remise
en cause des classes a priori. Nous donnons la formulation mathématique du problème. Le critère
à optimiser exprime le pouvoir séparateur du sous espace discriminant des classes cherchées. Nous
décrivons un algorithme permettant de faire décroître le critère jusqu'à une solution stable. La
partition de convergence peut suggérer des regroupements de types à priori ou l'éclatement
de certains groupes en classes plus homogènes. Un autre intérêt de cette approche est l'obtention
d'une fonction de décision accompagnée d'une visualisation qui permet d'apprécier sa qualité.
Nous présentons le traitement d'une banque de données industrielles.

Plus généralement si les individus sont décrits par deux ensembles de paramètres J₁ et J₂, l'analyse discriminante typologique sous contrainte permet de construire une partition dont les classes soient homogènes selon J₂, et bien reconnues par des facteurs discriminants de J₁. En particulier, nous proposons une contrainte de modélisation locale.

ABSTRACT

In discrimination the clusters to explain are often known in a subjective and fuzzy way. With
typological discriminant analysis it is possible to question about them, to make them vary and
study their relevance. We study a mathematical formulation of the problem. The criterion to
optimize represents the ability of the subspace to separate the searched classes. We give an
algorithm which allows the criterion to decrease towards a stable solution. Knowing the
convergence partition, it is possible, by cutting up and aggregating, to deduct homogeneous
clusters from a priori classes. This approach also helps to find a decision rule and a visual
representation. We present some results obtained with industrial data.

More generally, when subjects are characterized by two groups of parameters J₁ and J₂, typological discriminant analysis *under constraint* allows to construct a partition such that : the classes are homogeneous with respect to J₂ and they can be discriminated by J₁. Particularly, we study a local model constraint.
# PLAN

1. INTRODUCTION

2. FORMULATION MATHEMATIQUE DU CRITERE

2.1. Cas général

2.1.1. - Le noyau

2.1.2. - Le critère

2.2. - A.D.T* sous contrainte de variance

2.2.1. - Le noyau

2.2.2. - Le critère

2.3. - A.D.T. sous contrainte de modélisation locale

2.3.1. - Le problème

2.3.2. - Le noyau

2.3.3. - Le critère

3. L'ALGORITHM

3.1. - La fonction d'identification f

3.2. - La fonction de représentation g

3.2.1. - Le cas général

3.2.2. - A.D.T. sous contrainte de variance

3.2.3. - A.D.T. sous contrainte de modélisation locale

3.3. - L'algorithme - organigramme

4. THEOREME DE CONVERGENCE DE L'ALGORITHM

5. LE PROGRAMME

5.1. - Les entrées

5.2. - Les sorties

6. LE TRAITEMENT D'UNE BANQUE DE DONNES INDUSTRIELLES PAR L'A.D.T.

6.1. - Les données

6.2. - Les résultats

7. UN EXEMPLE D'UTILISATION DE L'A.D.T. SOUS CONTRAINTE DE MODELISATION LOCALE

<footnote>* A.D.T.: Analyse discriminante typologique</footnote>
# 1. - INTRODUCTION

En discrimination la population est répartie en groupes définis a priori. Ce découpage est parfois subjectif et constitue une hypothèse de structure dont il paraît souhaitable de s'affranchir. La remise en cause des types a priori se justifie surtout dans le cas de classes floues, où le classement des individus de la population échantillon elle-même, tient pour une part de l'interprétation de l'utilisateur. On peut par conséquent, préférer à la discrimination des méthodes inductives, l'analyse factorielle ou la classification, qui font apparaître les groupements naturels du nuage des individus. Mais, dans ces analyses, les variables discriminantes (s'il en existe !) et les variables de bruit ont le même poids. Les types a priori peuvent être mal reconnus sans que l'on puisse conclure que les attributs caractérisant les individus ne permettent pas de les classer.

L'analyse discriminante typologique propose une démarche médiane entre classification et discrimination. Elle utilise la donnée des classes a priori, mais elle les remet en cause : les classes qui sont bien reconnues par une analyse factorielle discriminante sont conservées, les autres sont refondues en classes plus homogènes. Parallèlement les variables de bruit sont éliminées.

Plus généralement, l'analyse discriminante typologique sous contrainte permet de résoudre le problème de classification suivant :

Une population échantillon est décrite par deux ensembles de paramètres $J$ et $J_2$. Il s'agit de construire une typologie dont les classes soient homogènes vis-à-vis de $J_2$, et reconnues par des facteurs discriminants de $J$. La règle de décision associée permet le classement ultérieur de nouveaux individus pour lesquels $J_2$ est inconnu.

Un exemple est donné dans le cas d'une contrainte de modélisation locale sur $J_2$. Le traitement d'une banque de données industrielles est présenté.

<footnote>L'analyse discriminante typologique a été introduite par E. DIDAY dans [2]</footnote>
## 2. - FORMULATION MATHEMATIQUE DU CRITERE

### 2.1. - Cas général

Soit une population finie E d'individus caractérisés par p paramètres ordonnés. On recherche la partition $P = (P_1, ..., P_K)$ de E en k classes, et le sous espace F de dimension r qui minimisent l'inertie intra classe expliquée par F (l'espace des individus est muni de la métrique définie par l'inverse de la matrice de covariance des paramètres, notée $V^{-1}$).

#### 2.1.1. - Le Noyau

Un noyau est constitué de K centres, $a_1, ..., a_K$, et d'un sous espace F de dimension r, engendré par les axes $V^{-1}$ orthogonaux $\Delta_1, ..., \Delta_r$. Sur chaque axe $\Delta_s$, $s=1,...,r$, on choisit un vecteur $u_s$, unitaire pour la métrique $V^{-1}$. Un noyau L est donc défini par K centres et r vecteurs de $\mathbb{R}^p$ :

$$L = (a_1, ..., a_K, u_1, ..., u_r)$$

avec les conditions d'orthogonalité et de normalisation suivantes :

$$u_s' V^{-1} u_t = 0 \quad s = 1, ..., r; t = 1, ..., r; s \neq t$$

$$u_s' V^{-1} u_s = 1 \quad s = 1, ..., r.$$

#### 2.1.2. - Le critère

Le critère à minimiser est l'inertie intra classe du nuage (pour la métrique $V^{-1}$) expliquée par le sous espace F. Il se décompose en inerties expliquées par les axes $\Delta_1, ..., \Delta_r$.

Plus généralement, soit $P = (P_1, ..., P_K)$ une partition, et $L = (a_1, ..., a_K, u_1, ..., u_r)$ un noyau, on a :

$$W(P,L) = \sum_{i=1}^{K} \sum_{s=1}^{r} u_s' V^{-1} (\sum_{x \in P_i} (X - a_i) (X - a_i)') V^{-1} u_s \quad [1]$$
ou encore

$$
W (P,L) = \sum_{i=1}^{K} \sum_{x \in P_i} (x-a_i)' V^{-1} (\sum_{s=1}^{r} u_s u_s') V^{-1} (X-a_i)
$$

$$
\text{En posant } M = y^{-1} \left( \sum_{s=1}^{r} u_s u_s' \right) V^{-1} \text{ et } d(x,y) = (X-Y)' M (X-Y)
$$

on obtient :

$$
W (P,L) = \sum_{i=1}^{K} \sum_{x \in P_i} d (a_i, x)
$$

N.B. d (x,y) = 0 n'implique pas, en général, X=Y car M est de rang maximum r
inférieur à p.

En posant D (aᵢ, Pᵢ) = Σ (d (aᵢ, x) le critère s'écrit sous la forme
x ∈ Pᵢ

$$
W (P, L) = \sum_{i=1}^{K} D (a_i, P_i) \quad (1)
$$

Enfin, si on note $a_x$ le centre de la classe d'appartenance de x, le critère s'écrit sous la forme d'une somme étendue à l'ensemble des individus.

$$
W (P, L) = \sum_{x \in E} d (x, a_x) \tag{2}
$$

2.2. - A.D.T. sous contrainte de variance

On suppose que de plus, les individus sont caractérisés par un second ensemble
de q paramètres, J₂.

2.2.1. - Le noyau

Un noyau L est du type (a₁,...,aₖ,u₁,...,uₖ) comme dans le cas général, mais
un centre aᵢ, i=1,...,K, est élément de R^{P+q}
### 2.2.2. - Le critère

Le critère à minimiser s'écrit, avec les notations précédentes :

$$W_v(P,L) = \sum_{i=1}^{K} \left[ \sum_{x \in P_i} d(x, a_i) + \beta I(P_i, a_i) \right]$$

où $\beta$ est une constante positive donnée, et $I(P_i, a_i)$ est l'inertie de la classe $P_i$ par rapport au centre $a_i$, pour les paramètres de $J_2$ et une métrique $Q$ donnée.

Cette forme est analogue à la forme (1) du cas général ; D'autre part, $W_v(P,L)$ pourrait s'écrire comme une somme étendue à l'ensemble des individus.

$$\text{Ainsi } W_v(P,L) = \sum_{i=1}^{K} D_v(a_r, P_r) \qquad (1')$$

$$W_v(P,L) = \sum_{x \in E} d_v(x, a_x) \qquad (2')$$

## 2.3. - A.D.T. sous contrainte de modélisation locale

### 2.3.1. - Le problème

On se place dans le cas où les paramètres de $J_2$, $Z_1, \dots, Z_q$, sont liés localement par un modèle, dont le type H est connu, par exemple le modèle linéaire. On suppose que l'on sait :

1) Calculer pour tout ensemble d'individus A et tout modèle h, le résidu de A par rapport à h, noté $\delta(h,A)$. En particulier pour un individu x, $\delta(h,x)$ est l'écart de x au modèle h. (On suppose que $\delta(h,A_1 \cup A_2) = \delta(h,A_1) + \delta(h,A_2)$).

2) Déterminer pour tout A, le modèle qui minimise $\delta(h,A)$, et qui sera noté $h^*(A)$. (En cas d'égalité, $\delta(h_1,A) = \delta(h_2,A)$, on suppose qu'une règle dicte le choix du modèle $h^*(A)$).
Exemple

Dans le cas où H est le modèle linéaire, un modèle h est défini par les
coefficients $\alpha_0, \alpha_1, \dots, \alpha_q$ de l'équation $\alpha_0 + \alpha_1 Z_1 + \dots + \alpha_q Z_q = 0$.

$$
\delta (h,A) = \sum_{x \in A} (\alpha_0 + \alpha_1 Z_1(x) + \dots + \alpha_q Z_q(x))^2
$$

$h^*$ (A) est donné par une régression orthogonale sur A.

2.3.2. - Le noyau

Un noyau L est constitué de K centres, r vecteurs directeurs dans R^p, et
K modèles.

$$
L = (a_1, \dots, a_k, u_1, \dots, u_r, h_1, \dots, h_k)
$$

2.3.3. - Le critère

Le critère à minimiser s'écrit avec les notations précédentes, sous les
deux formes :

$$
W_M (P,L) = \sum_{i=1}^{K} \left[ \sum_{x \in P_i} d (x, a_i) + \beta \delta (h_i, P_i) \right]
$$

$$
W_M (P,L) = \sum_{x \in E} [d(x, a_x) + \beta \delta(h_x, x)]
$$

$$
\text{Si on note } D_M (a_i, h_i, P_i) = \sum_{x \in P_i} d (x, a_i) + \beta \delta (h_i, P_i)
$$

$$
\text{et} \quad d_M (x, a_x, h_x) = d (x, a_x) + \beta \delta (h_x, x),
$$

on obtient

$$
W_M (P,L) = \sum_{i=1}^{K} D_M (a_i, h_i, P_i) \quad (1'')
$$

$$
W_M (P,L) = \sum_{x \in E} d_M (x, a_x, h_x) \quad (2'')
$$
## 3. - L'ALGORITHME

### 3.1. - La fonction d'identification f

Elle associe à un noyau L la partition P qui minimise $W(P,L)$, $W_v(P,L)$, ou $W_M(P,L)$ selon l'option.

D'après la forme (2) ((2'), ou (2'')) du critère, il est clair que f doit affecter tout individu x à la classe dont il est le plus proche au sens de d ($d_v$, ou $d_M$).

#### Remarque

En cas d'égalité, l'individu est affecté à la classe de plus petit indice, sauf si à l'itération précédente il appartenait à l'une des classes en question, auquel cas il ne change pas de classe. Ainsi, en toute rigueur f est une fonction de deux variables. A la partition Q et au noyau L, f fait correspondre une partition P. Pour simplifier l'écriture, nous considérons dans la suite f comme fonction de L.

### 3.2. - La fonction de représentation g

Elle associe à une partition P, le noyau L qui minimise $W(P,L)$, $W_v(P,L)$ ou $W_M(P,L)$ selon l'option.

#### 3.2.1. - Le cas général

Rappelons la forme (1) du critère à minimiser :

$$W(P,L) = \sum_{i=1}^{K} D(a_i, P_i)$$

où $D(a_i, P_i)$ est l'inertie (pour la métrique $V^{-1}$) de la classe $P_i$, par rapport au centre $a_i$, expliquée par le sous-espace engendré par $u_1, \dots, u_r$.

a) Pour tout $U = (u_1, \dots, u_r)$ fixé, le minimum en a de $D(a, P_i)$ est atteint pour le centre de gravité $g_i$ de la classe $P_i$. Ainsi, en notant $A = (a_1, \dots, a_K)$, et $G = (g_1, \dots, g_K)$ :

$$\text{Min}_{L=(A,U)} W(P,(A,U)) = \text{Min}_{U} W(P,(G,U))$$
b) Recherche de $\underline{\underline{\text{Min W}}}$ (P, (G,U)) / U

W (P, (G,U)) est la somme des inerties **intra classe** expliquées par les
axes engendrés par u₁, ..., uₙ, pour la métrique V⁻¹. Pour cette métrique,
l'inertie totale du nuage expliquée par un axe est égale à 1. Il est donc
équivalent de rechercher :

- le minimum de W (P, (G,U))

- le maximum de la somme des inerties inter classe expliquées par les
axes engendrés par u₁,...,uₙ, pour la métrique V⁻¹

ou encore

- le maximum de la somme des inerties du nuage des centres (g₁, ..., gK), munis des poids (p₁ = card(P₁), ..., pK = card(PK)) expliquées par les axes engendrés par u₁, ..., uₙ, pour la métrique V⁻¹.

Il s'agit alors d'un problème d'analyse en composantes principales. Si
on note g₀ le centre de gravité du nuage et B sa matrice de covariance intra
classe,

$$
B = (\sqrt{p_1}(g_1-g_0), \dots, \sqrt{p_K}(g_K-g_0)) (\sqrt{p_1}(g_1-g_0), \dots, \sqrt{p_K}(g_K-g_0))'
$$

On sait que cet optimum est atteint pour les r vecteurs propres associés aux
r plus grandes valeurs propres de la matrice B V⁻¹. Ces vecteurs sont V⁻¹
orthogonaux. On impose de plus la condition de V⁻¹ normalisation :

$$
u_s' V^{-1} u_s = 1 \quad s = 1, \dots, r.
$$

Il apparaît qu'il existe au plus (K-1) vecteurs $u_s$ associés à des valeurs
propres non nulles. On choisira donc toujours $r \le K-1$.

Remarque

En cas d'égalité de valeurs propres une règle dicte le choix de l'ordre des
axes. Ainsi g est une fonction.

c) Autre présentation de la recherche de Min W (P,(G,U)). Recherche des facteurs U / discriminants de la partition P.

Si on pose $b_s = V^{-1} u_s$, pour s = 1, ..., r, le critère W (P, (G,U)) s'interprète comme la somme des variances **intra classe** des facteurs $b_s$. La condition de normalisation $u'_s V^{-1} u_s = 1$, devient $b'_s V b_s = 1$; celle d'orthogonalité $u'_s V^{-1} u_t = 0$, s'écrit $b'_s V b_t = 0$.
On sait que le rapport

Variance intra classe du facteur b

Variance totale du facteur b

admet pour minima successifs, sous la contrainte de covariance nulle, les vecteurs propres de la matrice $V^{-1}$ B, associés à ses plus grandes valeurs propres $\lambda_1, \lambda_2, \dots$. [5]

Le minimum du critère est donc atteint pour les facteurs $b_1, \dots, b_r$ vérifiant :

$$V^{-1} B b_s = \lambda_s b_s \qquad \lambda_1 \ge \lambda_2 \ge \dots \ge \lambda_r \qquad (3)$$

$$b'_s V b_s = 1 \qquad s = 1, \dots, r \qquad (4)$$

En prémultipliant (3) par $V$, on obtient :

$$B b_s = \lambda_s V b_s \qquad (5)$$

Comme $b_s = V^{-1} u_s$, on a :

$$B V^{-1} u_s = \lambda_s u_s$$

Ainsi les valeurs propres $\lambda_1 \ge \lambda_2 \ge \dots \ge \lambda_r$ de $V^{-1}$ B auxquelles sont associés les facteurs discriminants $b_1, \dots, b_r$, sont aussi valeurs propres de $B V^{-1}$, auxquelles sont associés les axes engendrés par $u_1, \dots, u_r$.

D'autre part, en prémultipliant (5) par $b'_s$ on obtient :

$$b'_s V b_s = \lambda_s$$

La valeur propre $\lambda_s$, $s=1, \dots, r$, est égale à la variance intra classe du facteur discriminant $b_s$ (sa variance totale est égale à 1), ou encore à l'inertie intra classe expliquée par l'axe engendré par $u_s$, pour la métrique $V^{-1}$.

### d) Recherche pratique des facteurs discriminants de la partition P

D'après le paragraphe précédent, les facteurs discriminants, $b_1, \dots, b_r$, sont vecteurs propres de la matrice $V^{-1}$ B, non symétrique, de dimension $p$.

Si on note $C = (\sqrt{p_1}(g_1-g_0), \dots, \sqrt{p_K}(g_K-g_0))$,

$B = C C'$

C est une matrice à $p$ lignes et $K$ colonnes.

La relation

$$V^{-1} B b = \lambda b \qquad (6)$$

s'écrit alors

$$V^{-1} C C' b = \lambda b \qquad (7)$$
ou sous la forme

$$ C C' b = \lambda V b \qquad (8) $$

(7) peut s'écrire, si $\lambda \neq 0$

$$ b = V^{-1} C (\frac{1}{\lambda} C' b) $$

On peut donc chercher $b$, solution de (6), sous la forme $V^{-1} C a$, où $a$ est élément de $\mathrm{TR}^K$.

(8) s'écrit alors

$$ C C' V^{-1} C a = \lambda C a \qquad (9) $$

Si $a$ est vecteur propre associé à la valeur propre $\lambda$ de la matrice $C' V^{-1} C$, $a$ vérifie (9), et $b = V^{-1} C a$ vérifie (8).

Ainsi en pratique, on effectue la diagonalisation de la matrice $C' V^{-1} C$ symétrique de dimension $K$. ($K$, nombre de classes est, en général, très inférieur à $p$, nombre de paramètres). On déduit les facteurs par la transformation $b = V^{-1} C a$. [3]

### 3.2.2. - A.D.T. sous contrainte de variance

Le critère à minimiser $W_K^{v}(P,L)$ s'écrit :

$$ W_V(P,L) = W(P,L) + \beta \sum_{i=1}^{K} I(P_i, a_i) $$

Chaque terme $I(P_i, a_i)$ sera minimum si $a_i$ est le centre de gravité de la classe $P_i$.

$L$ sera donc constitué des $K$ centres de gravité $(g_1, ..., g_K)$ des classes $(P_1, ..., P_K)$, éléments de $\mathrm{TR}^{P+q}$ ici, et des axes engendrés par les $r$ vecteurs propres associés aux $r$ plus grandes valeurs propres de la matrice $B V^{-1}$.

### 3.2.3. - A.D.T. sous contrainte de modélisation locale

Le critère à minimiser $W_M(P,L)$ s'écrit :

$$ W_M(P,L) = W(P,L) + \beta \sum_{i=1}^{K} \delta(h_i, P_i) $$
Chaque terme $\delta(h_i, P_i)$, $i=1, \dots, K$, sera minimum si on choisit $h_i = h^*(P_i)$.

Pour le choix de $(a_1, \dots, a_K)$ et $(u_1, \dots, u_r)$ on procède comme dans 3.2.1.

### 3.3. - L'algorithme

On suppose donnée (ou tirée au hasard) une partition $P^0$.

On construit simultanément une suite de noyaux $(L^n)$, et une suite de partitions $(P^{n+1})$ en appliquant alternativement les fonctions $g$ et $f$. On pose :

$$L^n = g(P^n) \qquad n \ge 0$$

et

$$P^{n+1} = f(L^n) \qquad n \ge 0$$

On note

$$v_n = (P^n, L^n) = (P^n, g(P^n))$$

et

$r_n = W(P^n, L^n)$, $W_v(P^n, L^n)$, ou $W_M(P^n, L^n)$ selon l'option.

<figure><img src="image_3.png" /><figcaption>Organigramme de l'algorithme</figcaption></figure>
## 4. - THEOREME DE CONVERGENCE DE L'ALGORITHM

1) La suite $(r_n)$ est stationnaire, c'est à dire convergente en atteignant sa limite.

2) La suite $(v_n)$ est stationnaire.

Ainsi, après un nombre fini N d'itérations, on obtient un couple
$v_N = (P^N, L^N)$ qui vérifie

$$L^N = g(P^N)$$

$$P^N = f(L^N)$$

Donnons la démonstration dans le cas général. Elle est identique dans les autres cas en remplaçant $W(P,L)$ par $W_V(P,L)$ ou $W_M(P,L)$.

### Preuve 1

a) La suite $(r_n)$ est décroissante.

En effet

$$i) \quad r_n = W(P^n, L^n) \ge W(P^{n+1}, L^n) \\ \qquad \text{car } P^{n+1} = f(L^n) \quad \text{réalise le minimum en P de } W(P, L^n)$$

$$ii) \ W(P^{n+1}, L^n) \ge W(P^{n+1}, L^{n+1}) = r_{n+1} \\ \qquad \text{car } L^{n+1} = g(P^{n+1}) \quad \text{réalise le minimum en L de } W(P^{n+1}, L)$$

b) L'ensemble des partitions de E étant fini, la suite $r_n = W(P^n, g(P^n))$ ne peut prendre qu'un nombre fini de valeurs. Comme elle est décroissante, elle est stationnaire. Il existe N tel que $r_n = r_N$ pour tout $n \ge N$.

### Preuve 2

On a d'après 1) :

$$W(P^N, L^N) = W(P^{N+1}, L^N) = W(P^{N+1}, L^{N+1}).$$

La première égalité entraine $P^N = P^{N+1}$, d'après 3.1. et sa remarque.

Comme $L^N = g(P^N)$, $L^{N+1} = g(P^{N+1})$, et que g est une fonction, on a
$$L^N = L^{N+1}.$$
# 5. - LE PROGRAMME INFORMATIQUE "DISCRI"

Nous donnons ici la liste des entrées et des sorties du programme, nommé DISCRI.

## 5.1. - Les entrées

• Le tableau des données

• Le nombre maximum de classes désirées : K

• La dimension du sous espace discriminant : r ($r \le K-1$)

• En option, la partition initiale. Sinon elle est tirée au hasard

• En option, la pondération $\beta$

## 5.2. - Les sorties

A chaque itération

• les classes d'appartenance des individus

• les centres de gravité des classes

• la valeur du critère

• les valeurs propres $\lambda_1, \dots, \lambda_r$

A la convergence

• la partition

• les centres de gravité des classes

• la valeur du critère

• les valeurs propres $\lambda_1, \dots, \lambda_r$

• les composantes des facteurs discriminants

• les cosinus directeurs des axes discriminants

• les coordonnées des projections des centres et des individus sur les axes discriminants

• en option, la représentation graphique des projections des centres sur les axes discriminants. (On utilise le sous programme NUAGE de l'ISUP)

• en option, la représentation graphique des projections des individus sur les axes discriminants

• en option, dans le cas de contrainte sur J2, le pourcentage de bien classés par l'affectation par les facteurs discriminants seuls.
Dans le cas de contrainte sur J2, le programme permet d'enchainer plusieurs passages de l'algorithme avec différentes valeurs de la pondération β. Un tirage est initialisé par la partition de convergence du précédent.

# 6. - LE TRAITEMENT D'UNE BANQUE DE DONNEES INDUSTRIELLES PAR L'ANALYSE DISCRIMINANTE TYPOLOGIQUE [4]

## 6.1. - Les données

Une population échantillon est constituée de 113 pièces mécaniques tour- nantes caractérisées par 24 paramètres, et réparties en 7 classes définies a priori $C_1, C_2, \dots, C_7$. Il s'agit de construire une règle de décision sur une partition éventuellement moins fine que celle donnée a priori.

Le spécialiste distingue deux types de défauts $D_1$ et $D_2$ qui s'excluent, et deux configurations $R_+$ et $R_-$ (les deux sens de rotation). Une pièce peut présenter un type de défaut dans une configuration ou dans les deux.

$C_1$ est la classe des individus ne présentant aucun défaut. $C_2, \dots, C_7$ sont définis ainsi :

<table><thead><tr><th></th><th>R<sub>+</sub></th><th>R<sub>-</sub></th><th>R<sub>+</sub> et R<sub>-</sub></th></tr></thead><tbody><tr><th>D<sub>1</sub></th><td>C<sub>2</sub></td><td>C<sub>3</sub></td><td>C<sub>4</sub></td></tr><tr><th>D<sub>2</sub></th><td>C<sub>5</sub></td><td>C<sub>6</sub></td><td>C<sub>7</sub></td></tr></tbody></table>

De l'avis même du spécialiste, le classement des individus est subjectif. En particulier, des erreurs de diagnostic peuvent se produire lors de l' affectation aux classes $C_2$ et $C_5$ (qui correspondent à des défauts légers) ou $C_1$. Par contre, une erreur de diagnostic entre un défaut dans la configura- tion $R_+$ seulement (classes $C_2$ et $C_5$) et un défaut dans la configuration $R_-$ seulement (classes $C_3$ et $C_6$) est peu probable.
## 6.2. - Les résultats

On réalise une première analyse avec pour partition initiale, la partition $a \text{ priori } (C_1, \dots, C_7)$. On choisit $r = 5$. Les 7 classes sont mal reconnues. Il apparaît un éclatement des classes $C_1$ et $C_4$, en $C_{1,1}$, $C_{1,2}$ et $C_{4,1}$, $C_{4,2}$. En projection sur le sous espace discriminant les classes $C_6$ et $C_7$ sont proches, ainsi que les classes $C_{1,2}$, $C_2$ et $C_5$.

On définit alors la partition en 5 classes $(T_1, \dots, T_5)$ par :

$$T_1 = C_{1,1}$$

$$T_2 = C_{1,2} \cup C_2 \cup C_5$$

$$T_3 = C_3 \cup C_{4,2}$$

$$T_4 = C_{4,1}$$

$$T_5 = C_6 \cup C_7$$

On réalise une seconde analyse avec pour partition initiale $(T_1, \dots, T_5)$ afin de tester sa stabilité. On choisit $r=4$.

L'algorithme converge en 3 itérations vers la partition $(T_1^*, \dots, T_5^*)$. Le Tableau 1 fait ressortir la stabilité de la partition $(T_1, \dots, T_5)$. Le premier axe discriminant isole la classe $T_4$; le second oppose les classes $T_3$ et $T_5$; le troisième isole la classe $T_2$ et le quatrième la classe $T_1$.

La partition $(T_1, \dots, T_5)$ est interprétable vis à vis des types de défauts et de configurations (voir Tableau 2) :

$T_1$ et $T_4$ sont des sous classes homogènes des classes floues $C_1$ et $C_4$

$T_3$ (resp. $T_5$) est une classe "défaut $D_1$ (resp. $D_2$) dans la configuration $R_-$". La présence éventuelle du défaut dans la configuration $R_+$ est masquée.

$T_2$ est une classe "défaut léger".
<table><thead><tr><th></th><th>T<sub>1</sub><sup>*</sup></th><th>T<sub>2</sub><sup>*</sup></th><th>T<sub>3</sub><sup>*</sup></th><th>T<sub>4</sub><sup>*</sup></th><th>T<sub>5</sub><sup>*</sup></th></tr></thead><tbody><tr><th>T<sub>1</sub></th><td>20</td><td></td><td></td><td></td><td></td></tr><tr><th>T<sub>2</sub></th><td></td><td>30</td><td>1</td><td></td><td>5</td></tr><tr><th>T<sub>3</sub></th><td></td><td>4</td><td>16</td><td></td><td></td></tr><tr><th>T<sub>4</sub></th><td></td><td></td><td></td><td>13</td><td></td></tr><tr><th>T<sub>5</sub></th><td>1</td><td></td><td></td><td></td><td>23</td></tr></tbody></table>

### Tableau 1

L'analyse discriminante typologique est initialisée par la partition $(T_1, \dots, T_5)$.

La partition de convergence est notée $(T_1^*, \dots, T_5^*)$.

<table><thead><tr><th></th><th>R<sub>+</sub></th><th>R<sub>-</sub></th><th>R<sub>+</sub> et R<sub>-</sub></th></tr></thead><tbody><tr><th>D<sub>1</sub></th><td>C<sub>2</sub></td><td>C<sub>3</sub></td><td>C<sub>4,2</sub> C<sub>4,1</sub></td></tr><tr><th>D<sub>2</sub></th><td>C<sub>5</sub></td><td>C<sub>6</sub></td><td>C<sub>7</sub></td></tr><tr><th>Sans défaut</th><td>C<sub>1,1</sub></td><td></td><td>C<sub>1,2</sub></td></tr></tbody></table>

<figure><img src="image_4.png" /></figure>

### Tableau 2

Les classes $T_1, \dots, T_5$ vis à vis des défauts $D_1$ et $D_2$, et des configurations $R_+$ et $R_-$.
## 7. - UN EXEMPLE D'UNE UTILISATION DE L'ANALYSE DISCRIMINANTE TYPOLOGIQUE SOUS CONTRAINTE DE MODELISATION LOCALE

Soit 24 individus caractérisés par deux ensembles de paramètres
J = { X₁, X₂, X₃, X₄, X₅ } et J2 = { Z₁, Z₂, Z₃ } (Voir Tableau 3).

On suppose que Z₁, Z₂, et Z₃ sont liés localement par un modèle linéaire.

Il apparaît que les individus sont répartis en 3 classes :

$$ \text{Classe A} = \{ \text{A 1, \dots, A 8} \} $$

$$ \text{Classe B} = \{ \text{B 1, \dots, B 8} \} $$

$$ \text{Classe C} = \{ \text{C 1, \dots, C 8} \} $$

X₁, X₂, X₃ sont discriminants. X₄ et X₅ sont des paramètres de bruit
(voir Tableau 3).

Les modèles théoriques hA, hB, hC associés aux trois classes sont
respectivement :

$$ h_A ; (Z3 = 2) $$

$$ h_B ; (Z3 = 4) $$

$$ h_C ; (Z3 = 6) $$

Mais on peut observer que 15 des 24 points sont répartis sur les faces d'un parallélipide (Voir Figure 4). Ainsi plusieurs partitions et triplets de modèles apparaissent sur J2.

Nous avons effectué 14 tirages avec $\beta = 1$, en demandant trois classes, un sous espace discriminant de dimension 2, et en tirant au hasard la partition initiale. On retient comme partition optimale celle qui correspond au minimum du critère. Il s'agit de la partition selon les classes A, B et C. (Voir 6.- Les résultats).

La figure 5 représente les projections des individus sur le plan discriminant. Le premier axe sépare la classe A, des classes B et C. Ces dernières sont séparées par le deuxième axe.

Les facteurs discriminants (voir 6.) sont à un facteur multiplicatif près:
$$f_1(X_1, X_2, X_3, X_4, X_5) = X_1 + 1.31 X_2 + 0.96 X_3 + 0.02 X_4 + 0.07 X_5$$

$$f_2(X_1, X_2, X_3, X_4, X_5) = X_1 - 5.11 X_2 + 3.49 X_3 - 0.05 X_4 - 0.06 X_5$$

Le poids des variables de bruit $X_4$ et $X_5$ est négligeable.
<table><caption>Tableau 3 : Les données</caption><thead><tr><th></th><th>X<sub>1</sub></th><th>X<sub>2</sub></th><th>X<sub>3</sub></th><th>X<sub>4</sub></th><th>X<sub>5</sub></th><th>Z<sub>1</sub></th><th>Z<sub>2</sub></th><th>Z<sub>3</sub></th></tr></thead><tbody><tr><td>A 1</td><td>1.0</td><td>2.0</td><td>1.0</td><td>1.0</td><td>26.0</td><td>1.0</td><td>1.0</td><td>2.0</td></tr><tr><td>A 2</td><td>2.0</td><td>0.0</td><td>2.0</td><td>29.0</td><td>31.0</td><td>1.0</td><td>9.0</td><td>2.0</td></tr><tr><td>A 3</td><td>0.0</td><td>1.0</td><td>0.0</td><td>25.0</td><td>12.0</td><td>9.0</td><td>9.0</td><td>2.0</td></tr><tr><td>A 4</td><td>2.0</td><td>1.0</td><td>1.0</td><td>32.0</td><td>23.0</td><td>5.0</td><td>5.0</td><td>2.0</td></tr><tr><td>A 5</td><td>1.0</td><td>2.0</td><td>1.0</td><td>17.0</td><td>7.0</td><td>9.0</td><td>1.0</td><td>2.0</td></tr><tr><td>A 6</td><td>1.0</td><td>0.0</td><td>0.0</td><td>12.0</td><td>13.0</td><td>10.0</td><td>6.0</td><td>2.0</td></tr><tr><td>A 7</td><td>0.0</td><td>2.0</td><td>2.0</td><td>33.0</td><td>10.0</td><td>12.0</td><td>11.0</td><td>1.0</td></tr><tr><td>A 8</td><td>2.0</td><td>0.0</td><td>1.0</td><td>25.0</td><td>25.0</td><td>13.0</td><td>13.0</td><td>2.0</td></tr><tr><td>B 1</td><td>12.0</td><td>21.0</td><td>10.0</td><td>15.0</td><td>12.0</td><td>1.0</td><td>1.0</td><td>4.0</td></tr><tr><td>B 2</td><td>13.0</td><td>20.0</td><td>12.0</td><td>4.0</td><td>16.0</td><td>1.0</td><td>9.0</td><td>4.0</td></tr><tr><td>B 3</td><td>11.0</td><td>22.0</td><td>11.0</td><td>13.0</td><td>29.0</td><td>9.0</td><td>9.0</td><td>4.0</td></tr><tr><td>B 4</td><td>12.0</td><td>21.0</td><td>12.0</td><td>32.0</td><td>31.0</td><td>5.0</td><td>5.0</td><td>4.0</td></tr><tr><td>B 5</td><td>10.0</td><td>21.0</td><td>10.0</td><td>24.0</td><td>15.0</td><td>9.0</td><td>1.0</td><td>4.0</td></tr><tr><td>B 6</td><td>12.0</td><td>23.0</td><td>10.0</td><td>29.0</td><td>7.0</td><td>2.0</td><td>12.0</td><td>4.2</td></tr><tr><td>B 7</td><td>13.0</td><td>22.0</td><td>11.0</td><td>12.0</td><td>36.0</td><td>4.0</td><td>12.0</td><td>3.8</td></tr><tr><td>B 8</td><td>11.0</td><td>21.0</td><td>12.0</td><td>21.0</td><td>24.0</td><td>6.0</td><td>5.0</td><td>4.3</td></tr><tr><td>C 1</td><td>22.0</td><td>12.0</td><td>22.0</td><td>26.0</td><td>25.0</td><td>1.0</td><td>1.0</td><td>6.0</td></tr><tr><td>C 2</td><td>21.0</td><td>10.0</td><td>21.0</td><td>37.0</td><td>18.0</td><td>1.0</td><td>9.0</td><td>6.0</td></tr><tr><td>C 3</td><td>23.0</td><td>11.0</td><td>22.0</td><td>9.0</td><td>22.0</td><td>9.0</td><td>9.0</td><td>6.0</td></tr><tr><td>C 4</td><td>20.0</td><td>11.0</td><td>20.0</td><td>3.0</td><td>32.0</td><td>5.0</td><td>5.0</td><td>6.0</td></tr><tr><td>C 5</td><td>22.0</td><td>12.0</td><td>21.0</td><td>15.0</td><td>12.0</td><td>9.0</td><td>1.0</td><td>6.0</td></tr><tr><td>C 6</td><td>21.0</td><td>10.0</td><td>21.0</td><td>36.0</td><td>3.0</td><td>12.0</td><td>3.0</td><td>6.3</td></tr><tr><td>C 7</td><td>21.0</td><td>11.0</td><td>20.0</td><td>32.0</td><td>15.0</td><td>11.0</td><td>4.0</td><td>6.1</td></tr><tr><td>C 8</td><td>22.0</td><td>12.0</td><td>20.0</td><td>27.0</td><td>16.0</td><td>11.0</td><td>4.0</td><td>5.9</td></tr></tbody></table>
<figure><img src="image_5.png" /><figcaption>Figure 4 :
Les paramètres Z₁,Z₂,Z₃</figcaption></figure>
AXE HORIZONTAL( 11--AXE VERTICALE 2)
LARGEUR= 2.42730 HAUTEUR= 2.73710 -NOMBRE DE POINTS= 24

<table><tbody><tr><td>C 3</td><td>C 6</td><td>A 2</td></tr><tr><td></td><td>C 2</td><td></td></tr><tr><td>C 1</td><td></td><td>A 8</td></tr><tr><td>C 5</td><td>C 7</td><td>A 6</td></tr><tr><td></td><td>C 4</td><td></td></tr><tr><td>C 8</td><td></td><td></td></tr><tr><td></td><td></td><td>A 4</td></tr><tr><td></td><td></td><td>A 7</td></tr><tr><td></td><td></td><td>A 5</td></tr><tr><td></td><td></td><td>A 1 A 3</td></tr><tr><td>B 2</td><td></td><td></td></tr><tr><td>B 8</td><td>B 6</td><td></td></tr><tr><td>B 4</td><td></td><td></td></tr><tr><td>B 1</td><td></td><td></td></tr><tr><td>B 7</td><td>B 5</td><td></td></tr><tr><td>R 3</td><td></td><td></td></tr></tbody></table>

Figure 5

Les projecteurs des individus sur les deux premiers axes discriminants
NUMERO DE L'ITERATION 6
NOMBRE D'INDIVIDUS AYANT CHANGED DE CLASSE 0

CLASSES D'APPARTEANCE

2 2 2 2 2 2 1 1 1 1 1 1 1 1 3 3 3 3 3 3

CARDINAUX DES CLASSES

8 3 8

<table><tr><td>G=</td><td>-.117+02</td><td>.210+02</td><td>.110+32</td><td>.192+02</td><td>.212+02</td><td>.106-02</td><td>.400-02</td><td>.100+01</td><td>-.407+01</td></tr><tr><td>G=</td><td>-.112+01</td><td>.103+01</td><td>.100+01</td><td>.217+02</td><td>.184+02</td><td>-.544-03</td><td>.248-02</td><td>.100+01</td><td>-.201+01</td></tr><tr><td>G=</td><td>.215+02</td><td>.111+02</td><td>.209+02</td><td>.236+02</td><td>.189+02</td><td>-.941-02</td><td>.434-02</td><td>.100+01</td><td>-.599+01</td></tr></table>

VALEURS FRCPRES.FOURCENTAGE D'INERTIE DU NUAGE DES CFNTRES EXPLIQUE PAR L'AXE

.9956+00 50
.9838+00 50

WPL= .3308-01

WPL1= .2059-01

WPL2= .1249-01

WPL11= .0000

TEST= .

CLASS NO 1 CARD. 8

B 8 B 7 B 6 B 5 B 4 B 3 B 2 B 1

CLASS NC 2 CARD. 8

A 8 A 7 A 6 A 5 A 4 A 3 A 2 A 1

CLASS NO 3 CARD. 8

C 8 C 7 C 6 C 5 C 4 C 3 C 2 C 1

Tableau 6 : Les résultats

N.B. Les 5 premières colonnes de G correspondent aux moyennes des paramètres $X_1, \dots, X_5$ dans

COORDONNEES DES PROJ. DES C.G. SUR LES AXES DISCRIMINANTS

-.2069+01 -.1520+01

-.1955+00 -.57259-01

-.2348+01 .8936+00

les classes. Les 4 dernières correspondent aux coefficients des modèles $\alpha_1 Z_1 + \alpha_2 Z_2 + \alpha_3 Z_3 + \alpha_0 = 0$

COMFOSANTES DES FACTEURS DISCRIMINANTS

-.4247-01 -.5560-01 -.4057-01 -.6756-03 .2914-02
.2552-01 -.1304+00 .8905-01 -.1378-02 -.1631-02

COSINUS DIRECTEURS DES AXES DISCRIMINANTS

-.7731+01 -.6607+01 -.7473+01 -.5805-01 -.6809+00
.3144+01 -.4857+01 .3226+01 .1806+01 -.1063+01
## 8.- CONCLUSION

L'analyse discriminante typologique est à la fois descriptive et décissionnelle. Elle permet de sélectionner des classes, ou d'isoler des sous classes, que les paramètres ont le pouvoir de séparer. Parallèlement une règle de décision est construite.
BIBLIOGRAPHIE

[1] CAILLIEZ F., PAGES J.P. - "Introduction à l'analyse des données", ASU-BURO-SMASH. 1976.

[2] DIDAY E. - "Sélection typologique de paramètres", Rapport de recherche n° 188 IRIA Laboria 1976.

[3] LEBART L. - "Ecole d'été d'Analyse numérique", CEA-IRIA-EDF. 1975.

[4] LEMOINE Y. - "L'analyse discriminante typologique - Application", Journées statistiques de Nice. Mai 1978.

[5] ROMEDER J.M. - "Méthodes et programmes d'analyse discriminante", Dunod. Paris 1973.