ANNALES
DE LA FACULTÉ
DES SCIENCES
DE TOULOUSE
Mathématiques

ENRICO GIUSTI

Les méthodes des maxima et minima de Fermat

Tome XVIII, n° S2 (2009), p. 59-85.

<http://afst.cedram.org/item?id=AFST_2009_6_18_S2_59_0>

© Université Paul Sabatier, Toulouse, 2009, tous droits réservés.

L'accès aux articles de la revue « Annales de la faculté des sciences de Toulouse Mathématiques » (http://afst.cedram.org/), implique l'accord avec les conditions générales d'utilisation (http://afst.cedram.org/legal/). Toute reproduction en tout ou partie cet article sous quelque forme que ce soit pour tout usage autre que l'utilisation à fin strictement personnelle du copiste est constitutive d'une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.

cedram

Article mis en ligne dans le cadre du
Centre de diffusion des revues académiques de mathématiques

http://www.cedram.org/
# Les méthodes des maxima et minima de Fermat

ENRICO GIUSTI(*)

## 1. Introduction

Une des difficultés qui se présentent à ceux qui veulent écrire sur l'histoire des sciences, et particulièrement des mathématiques, c'est de reconstruire le parcours idéal qui a amené un auteur des premières ébauches à l'œuvre accomplie. Car, d'habitude, le mathématicien nous offre une théorie dans son état final, sans se soucier de nous mettre au courant des problèmes qu'il a dû résoudre, des détours qu'il a été obligé de suivre, des impasses qu'il a prises et qu'il a dû abandonner. Normalement, le premier pas consiste en l'établissement d'une chronologie ; on s'aidera des différentes rédactions d'un texte, en les comparant entre elles pour les ranger en bon ordre, on lira la correspondance pour y trouver des références à des moments différents du développement de la doctrine. À la fin de ce travail, l'historien aura à sa disposition non plus des ouvrages mathématiques atemporels, mais des textes doués de profondeur historique, où il pourra lire en filigrane les étapes successives de leur génération et, par ce moyen, arriver à une compréhension plus profonde de la pensée de son auteur.

Tout cela est particulièrement difficile à réaliser en ce qui concerne l'œuvre de Fermat sur les maxima et les minima et sur les tangentes. D'abord, tous les textes importants semblent avoir été composés dans une période très courte, qui va de la publication de la *Géométrie* de Descartes en automne 1637 jusqu'à l'été 1638 ; un laps de temps trop court pour qu'il y ait une véritable maturation d'idées et de méthodes. Deuxièmement, tous les textes dont nous disposons, à l'exception d'un seul, nous sont parvenus sous forme de copies, souvent très tardives et issues elles-mêmes d'une copie précédente ; il nous manque donc toute l'« épaisseur » des manuscrits originaux. Mais, ce qui est plus important, tous ces textes ne témoignent pas du moment de la découverte, mais plutôt de celui de la communication.

<footnote>(*) Dipartimento di matematica, Università di Firenze.
Recherche effectuée dans le cadre du programme « Storia delle matematiche » du MIUR.</footnote>
Il est bien connu, en effet, que Fermat était depuis quelque temps en possession de sa méthode¹, et que seulement la publication de l'ouvrage de Descartes avec sa solution du problème des tangentes l'a déterminé à difuser un certain nombre d'écrits, dont on ne sait pas avec certitude la date de composition, pour affirmer au moins son indépendance de la méthode cartésienne. La composition et le contenu de ces écrits ne correspondent donc pas à des moments successifs d'élaboration scientifique, mais à une stratégie de communication qui dépend des rapports entre Fermat et le destinataire – formels avec Descartes, amicaux avec Roberval et Mersenne – et qui seule détermine le niveau et le contenu des textes. Pour cette raison, une classification temporelle des écrits qui nous restent, même si elle était possible, nous donnerait très peu de lumières sur la démarche fermatienne, moins encore sur l'enchâinement des idées : la chronologie matérielle ne coïncide pas avec la chronologie de la pensée.

Le premier volume des Œuvres² recueillit sept écrits de Fermat concernant la méthode des maxima et des minima. Il s'agit des textes qui occupent les pages³ 133 à 172, de différentes longueurs et de contenus, mais tous écrits, à l'exception du dernier, Analysis ad refractiones, beaucoup plus tardif, entre la fin de 1637 et le milieu de 1638. Nous en donnons la liste, en conservant les titres des Œuvres :

I. *Methodus ad disquirendam maximam et minimam. De tangentibus linearum curvarum.*

Envoyé à Descartes par l'intermédiaire de Mersenne, décembre 1637.

II. *Centrum gravitatis parabolici conoidis, ex eadem methodo.*

Probablement envoyé à Roberval par l'intermédiaire de Mersenne. Il contient une allusion à une remarque de Descartes (« semper fallit ista methodus ») que Fermat a reçue en mars 1638.

III. *Ad eadem methodum (Volo mea methodo ...)*

Sans date, mais très semblable à I. On y trouve la solution d'un problème d'Apollonius mentionné par Pappus, et la tangente à l'ellipse au lieu de celle à la parabole.

<footnote>(1) Dans sa correspondance avec Mersenne et Roberval, en particulier dans une lettre à Roberval du 22 septembre 1636 (Œuvres, II, 71-74), Fermat dit avoir donné sa méthode à Despagnet il y a environ sept ans, donc il la possédait en 1629.</footnote>

<footnote>(2) *Œuvres de Fermat*, publiées par les soins de MM. P. Tannery et Ch. Henry. Paris, Gauthier-Villars, 4 volumes + Supplément, 1891-1922.</footnote>

<footnote>(3) On doit excepter l'écrit *Problema missum ad reverendum patrem Mersennum*, daté 10 novembre 1642 (pp. 167-169) qui bien que traitant d'un problème de maximum, n'utilise pas la méthode de Fermat.</footnote>
#### IV. *Methodus de maxima et minima.*

Date inconnue. On y trouve une allusion à la lettre de Descartes à Mersenne du 18 janvier 1638. Les problèmes sont les mêmes que dans I et III. Cette pièce fut transmise par Mersenne à Michelangelo Ricci et Evangelista Torricelli lors du voyage du minime en Italie en 1644, avec V et peut-être III.

#### V. *Ad methodum de maxima et minima appendix.*

Sans date. Il traite des maxima et minima de quantités renfermant
des radicaux.

#### VI. *Ad eamdem methodum (Doctrina tangentium ...)*

Seule pièce dont on a l'autographe. Fermat fait référence au problème d'Apollonius en III, et à la méthode des maxima et minima «jamdu-dum tradita». Il y a aussi une allusion au fait que sa méthode avait été jugée un peu trop concise. On y traite le problème des tangentes dans deux cas : quand la courbe est décrite en termes des coordonnées, et quand elle est donnée par des courbes, ce deuxième cas ayant été jugé difficile par Descartes (lettre de Descartes à Fermat, 25 septembre 1638).

#### VII. *Analysis ad refractiones.*

Pièce très tardive, envoyée par Fermat à M. de la Chambre en 1662.

À ces morceaux il faut ajouter les pièces extraites de la correspondance, toujours dans la période considérée, qui sont pour la plupart liées à la discussion sur la méthode entre Descartes d'un coté, Fermat et Roberval de l'autre, presque toujours conduite par l'intermédiaire de Mersenne⁴.

## 2. Origine et développements de la méthode de Fermat

Nous examinerons d'abord les écrits mentionnés plus haut. À première vue, ils se partagent en deux catégories distinctes, les quatre premiers concernant les fondements de la méthode, et les trois suivants des développements plus avancés. Le dernier, très tardif comme on a dit, se trouve lié à V du point de vue mathématique, mais il semble se situer à un étage précédent de la théorie. En effet, un examen plus attentif conseille de séparer II des autres, car il ne s'agit là ni de maxima et minima ni de tangentes, mais

<footnote>⁽⁴⁾ Cette correspondance a été publiée plusieurs fois, d'abord dans les Œuvres de Fermat, puis dans celles de Descartes et, plus récemment, dans le septième volume de la Correspondance du P. Marin Mersenne, par C. De Waard, Éditions du CNRS, Paris 1962.</footnote>
de l'invention du centre de gravité du conoïde parabolique, c'est-à-dire du paraboloïde de révolution. D'ailleurs la méthode pour trouver ce centre n'est valable que pour les figures dont chaque portion est divisée par son centre de gravité en parties semblables, dont les paraboles de tous degrés et leurs solides de révolution, mais ne saurait s'étendre à des solides plus complexes. En tout cas, il s'agit d'une application de la méthode, qui n'apporte pas d'éclaircissements essentiels.

Des trois pièces restantes du premier groupe, I et III sont complémentai-
res, et elles pourraient être réunies en une seule. Dans I, Fermat commence
par l'énoncé de sa règle des maxima et minima, dont il ne donne aucune
justification, et continue par son application au maximum⁵ de $BA - A²$ et
à l'invention de la tangente à la parabole, deux résultats très bien connus.
En III, qui ne porte pas de règle, on trouve d'abord le maximum de $A²B -
A³$, puis la solution d'un problème d'Apollonius tiré de Pappus, qui l'avait
qualifié de difficile⁶, et que Fermat reconduit au maximum du rapport ($BZ -
BA + ZA - A²$) : ($GA - A²$), et enfin la tangente à l'ellipse.

En conclusion, il s'agit de deux morceaux où Fermat se propose d'illustrer
sa méthode avec des exemples pour la plupart connus par ailleurs, de façon
que le lecteur puisse en apprécier l'universalité tout en étant assuré de la
justesse des résultats qu'elle donne. Deux écrits de promotion donc, dont le
premier fut envoyé à Mersenne pour le faire parvenir à Descartes, et fut à
l'origine de la dispute épistolaire entre les deux géomètres. Quant au second,
on ne sait pas s'il fut envoyé avec l'autre, mais il semble que Descartes ne
l'ait jamais vu.

De toute autre texture est la pièce IV, à la fois plus élémentaire et plus
rigoureuse. D'abord, elle traite uniquement du problème des maxima et min-
ima, sans aucune mention des tangentes, sauf pour une courte note finale,
où il est dit que la méthode peut être appliquée « ad inventionem tangen-
tium, centrorum gravitatis, asymptotôn »⁷. D'autre part, elle ne donne pas
seulement l'énoncé et les applications de la méthode, mais aussi son his-
torique et sa genèse⁸. Par ailleurs, les exemples qu'elle contient sont les
mêmes que ceux des pièces précédentes, à l'exception de ceux relatifs aux
tangentes.

<footnote>(5) Tout en conservant les notations de Fermat, nous utiliserons par simplicité les exposants et les coefficients ; sans quoi l'expression qui suit s'écrirait $B$ in $A - Aq$.</footnote>

<footnote>(6) C'est ici que Fermat cite Pappus qui appelle la moindre proportion *minimam et singularem*, une citation qui aura une place importante dans l'explication de la méthode.</footnote>

<footnote>(7) *Œuvres*, I, 152.</footnote>

<footnote>(8) À ma connaissance, il y a seulement une autre pièce où Fermat parle des fondements de sa technique, à savoir l'écrit adressé à Brûlart de Saint-Martin le 31 mars 1643 (Œuvres, Supplément, 120-125). Mais il s'agit là d'une tentative de démonstration, tandis qu'ici il est question de la genèse de la méthode.</footnote>
Peut-on établir une chronologie relative de ces trois écrits, ou mieux, des
deux si l'on regroupe I et III? Ou, autrement dit, compte tenu du fait que I
fut envoyé à Descartes en décembre 1637, doit-on dater IV avant ou après
cette date ? En l'état actuel de nos connaissances la réponse est difficile,
voire impossible, car IV n'est mentionné en aucun endroit. À moins qu'on
ne veuille identifier cette pièce avec l'écrit dont Fermat parle dans une lettre
à Mersenne, que De Waard a datée de janvier 1638, sans exclure d'ailleurs
la possibilité qu'elle ait été écrite quelques semaines plus tard⁹. Il s'agirait
dans ce cas d'un papier envoyé à R(oberval) et P(ascal), pour suppléer à
ce qu'il y a de trop concis, c'est-à-dire à I. Quoi qu'il en soit, la logique
voudrait que IV précède I et III ou, si l'on veut, que ces deux derniers
morceaux se situent à la conclusion de IV, qui significativement se termine
par l'énonciation de la règle, avec les mêmes mots qui ouvrent¹⁰ I. C'est
donc avec IV que nous commencerons notre analyse.

La pièce s'ouvre sur les deux sources de la méthode, Viète et Pappus :

Dum *syncriseos* et *anastrophes* Vietae methodum expenderem,
earumque usum in deprehendenda aequationum correlatarum con-
stitutione accuratius explorarem, subiit animum nova ad inven-
tionem maximae et minimae exinde derivanda methodus. [...] Max-
imae quippe et minimae sunt unicae et singulares, quod et Pappus
monuit et jam veteres norunt, licet Commandinus quid per μοναχόζ
intelligeret Pappus, ignorare se non diffitetur. Inde sequitur, ab
utraque puncti determinationis constitutivi parte, posse sumi ae-
quationem unam ancipitem et, ex duabus utrimque sumptis, effici
duas aequationes ancipites correlatas aequales et similes¹¹.

La syncrise¹² et l'anastrophe¹³ sont deux opérations fondamentales dans
la théorie des équations de Viète. En particulier, la syncrise consiste en la
recherche des coefficients d'une équation en fonction de ses racines, ce qui
conduit aux *formules de Viète* ; tandis que l'anastrophe est une sorte de
transformation des équations, dont un des ingrédients est la division par un
binôme. La combinaison de ces opérations avec la remarque de Pappus est
à l'origine de la méthode de Fermat. Pour en expliquer la dérivation et en
même temps en donner une démonstration, Fermat se sert de l'exemple déjà
traité en I, cette fois non comme application d'une règle déjà acquise, mais
comme modèle d'une méthode générale.

<footnote>(9) *Correspondance du P. Marin Mersenne, VII, 6.*</footnote>

<footnote>(10) Nous suivons ici M.S. Mahoney, *The mathematical career of Pierre de Fermat*, Princeton, University Press, 1973 (2édition 1994), pp. 147-165.</footnote>

<footnote>(11) *Œuvres*, I, 147-148.</footnote>

<footnote>(12) *Francisci Vietae Opera Mathematica*, Lugduni Batavorum, 1646. *De recognitione aequationum*, p. 104.</footnote>

<footnote>(13) *De emendatione aequationum*, p. 134.</footnote>
Le problème consiste à partager une droite donnée en deux parties, de façon que le rectangle formé par elles soit d'aire maximale. Si $B$ est la droite donnée, et $A$ une de ses parties, l'autre sera $B - A$, et l'aire du rectangle sera $BA - A^2$.

On se propose donc de trouver le maximum<fnref n="14" /> de $BA - A^2$. Soit $Z$ une valeur plus petite que le maximum. L'équation $BA - A^2 = Z$ aura alors deux racines $A$ et $E$, et l'on aura donc

$$BA - A^2 = Z = BE - E^2$$

d'où on tire

$$E^2 - A^2 = B(E - A)$$

et en divisant les deux membres par $E - A$,

$$A + E = B.$$

Jusque là, c'est exactement la synchrise de Viète, appliquée à l'équation $BA - A^2 = Z$, qui consiste en la recherche des coefficients d'une équation à partir de ses racines. Le même calcul pour $BA^2 - A^3$ conduit à la relation

$$A^2 + AE + E^2 = BA + BE.$$

Une fois établie cette «constitutio aequationum correlatarum», on peut utiliser la remarque de Pappus. En effet, si l'on prend $Z$ plus proche de la valeur maximum,

tunc rectae $A$ et $E$ minus inter se different quam superiores, quum puncta divisionis magis accedunt ad punctum rectanguli maximi constitutivum, semperque, auctis divisionum rectangulis, ipsarum $A$ et $E$ differentia minuetur, donec per ultimam maximi rectanguli divisionem evanescat, quo casu $\mu\alpha\chi\eta$ vel unica continget solutio, quum duae aequales <fient> quantitates, hoc est, $A$ aequabitur $E^{15}$.

Les quantités $A$ et $E$ dans ces relations sont donc variables, leur valeur dépendant de celle de $Z$, qui n'est pas déterminé. Ce n'est que quand $Z$ prend la valeur maximum, et donc, lorsque par la remarque de Pappus, $A$ et $E$ deviennent égales, que la relation donnée par la synchrise devient une véritable équation, d'où l'on peut déduire la valeur $A$ qui donne le maximum

<footnote n="14">¹⁴ Dans l'exemple en question la valeur du maximum est bien connue, étant égale à $B^2/4$. On remarquera cependant que la connaissance du maximum n'est nullement nécessaire à la question.</footnote>

<footnote n="15">¹⁵ *Œuvres*, I, 148-149.</footnote>
ou le minimum. C'est ici que $A$ change de statut, et de variable qu'elle était devient une inconnue, qu'on déterminera au moyen de l'équation : $2A = B$ dans le premier exemple, $2BA = 3A^2$ dans le second.

Nous signalons cette petite ambiguïté résiduelle, à savoir que la même lettre $A$ indique d'un coté la variable et de l'autre la valeur de cette variable qui donne lieu à un maximum ou à un minimum<fnref n="16" />. Aujourd'hui on aurait parlé d'une fonction $f(x)$ de la variable $x$, et on aurait appelé $x_0$ la valeur de $x$ qui donne un maximum pour $f$ ; autrement dit, on aurait distingué entre la variable $x$ et une valeur particulière $x_0$ de cette variable. Fermat lui-même aurait pu appeler $O$ la valeur qui donne le maximum, et dire qu'au maximum $A$ et $E$ deviennent égales à $O$. Le fait qu'il ait fait un choix différent, et qu'il ait appelé $A$ la variable et sa valeur au maximum, ne sera pas sans conséquences.

### 3. La deuxième méthode

Pour observer ces conséquences, un deuxième déplacement est nécessaire ; un petit changement de variable justifié par la simplification qu'il apporte dans les calculs.

Quia tamen operosa nimis et plerumque intricata est divisionem illa per binomia practice, conveniens visum est latera aequationum cor- relatarum inter se per ipsorum differentiam comparari ut, ea ratione, unicà ad differentiam illam applicatione totus opus absolvatur<fnref n="17" />.

La division par $E - A$ étant complexe, il est plus simple de prendre la différence des variables comme variable, à savoir d'écrire $A + E$ à la place de $E$. Par exemple, considérons le problème de trouver le maximum de $B^2A - A^3$ : en appliquant la méthode précédente, on aura l'équation :

$$B^2A - A^3 = B^2E - E^3,$$

d'où

$$E^3 - A^3 = B^2E - B^2A,$$

qu'on devra diviser par $E - A$. Or,

quoniam $E$ (perinde atque $A$) est incerta quantitas, nihil vetat quominus vocetur $A + E$ : erit igitur $B^2A + B^2E - A^3 - E^3 - 3A^2E - 3AE^2$ ex una parte ; ex altera<fnref n="18" />$B^2A - A^3$.

<footnote n="16">¹⁶ Ce double rôle de la quantité $A$ est bien mis en évidence par Mahoney, p. 163.</footnote>

<footnote n="17">¹⁷ *Œuvres*, I, 149-150.</footnote>

<footnote n="18">¹⁸ *Œuvres*, I, 150.</footnote>
L'équation corrélatifive, qui était

$$B^2A - A^3 = B^2E - E^3$$

devient donc

$$B^2A + B^2E - A^3 - E^3 - 3A^2E - 3AE^2 = B^2A - A^3.$$

D'où, après avoir éliminé les termes communs et avoir divisé par E,

$$B^2 = E^2 + 3A^2 + 3AE$$

et, en conclusion, $B^2 = 3A^2$. L'introduction de $A+E$ à la place de $E$ porte donc une simplification dans la division, un avantage qui devient d'autant plus sensible que l'expression de la quantité à maximiser est compliquée.

Doit-on croire Fermat quand il nous dit que l'introduction de la vari-
able $A + E$ à la place de $E$ est déterminée par des simplifications dans la
division ? Aujourd'hui on pourrait émettre des réserves sur ce point, et on
pourrait penser qu'il s'agit d'une justification *a posteriori* d'une opération
qui a été accomplie pour des raisons plus profondes et pour cela plus diffi-
ciles à expliquer, d'un récit qui cherche à donner des raisons aux procédés
parfois contradictoires de l'invention. Enfin, l'avantage qu'on obtient avec
le passage de $E$ à $A+E$ ne paraît important au point de justifier l'abandon
de la première méthode pour la deuxième : ce qu'on gagne en la division,
on le paye en partie avec une plus grande longueur des expressions, où la
quantité $E$ et toutes ses puissances doivent être remplacées par les puis-
sances analogues de $A + E$, des puissances que, faute de parenthèses, on
doit toujours écrire explicitement. Il faut néanmoins remarquer que la di-
vision au dix-septième siècle n'était pas si facile qu'aujourd'hui. C'est ainsi
que Fermat étudie à fond la syncrise de Viète, et cherche à la simplifier de
façon à ne pas avoir à diviser. Comme il l'écrira à Mersenne,

Pour la méthode que j'oppose à la syncrise, ce n'est seulement que
pour éviter les divisions qui sont souvent très fâcheuses en cette
sorte de questions¹⁹.

La méthode de Fermat est très intéressante, car on y peut trouver des
analogies importantes avec sa nouvelle théorie des maxima et minima. Il
s'agit d'abaisser le degré d'une équation $P(a) = 0$ dont une des racines $n$
est donnée, sans recourir à la division, comme Viète et Descartes. Pour cela,
Fermat pose $a = n+e$ dans l'équation $P(a) = 0$, obtenant ainsi une nouvelle

<footnote>(19) 1er avril 1640. *Œuvres*, II, 187-188.</footnote>
équation $Q(e) = 0$ en l'inconnue $e$, du même degré que la précédente. Or il est aisé de voir que le terme de degré zéro dans la nouvelle équation est $P(n)$, et donc qu'il est nul. On peut alors diviser par $e$, et obtenir une équation d'un degré moindre que la précédente. Les analogies avec la deuxième méthode des maxima et minima sont si évidentes, qu'on peut même se demander si cette dernière n'a pas eu son origine dans l'étude de l'analyse de Viète.

Mais revenons aux maxima et aux minima. La simplification qui dérive de la substitution de $A + E$ à $E$ s'accompagne d'un changement du rôle de la quantité $A$. On avait vu que Fermat indiquait avec cette lettre, soit une quantité variable, symétrique de $E$, soit la valeur inconnue du point de maximum, qu'on pouvait trouver en résolvant l'équation finale. Dans cette double « casquette » de variable et d'inconnue, $A$ et $E$ étaient symétriques quand les deux étaient des variables, mais ne l'étaient plus au moment où $E$ était posé égal à $A$, et donc disparaissait pour laisser une équation dans laquelle $A$ représentait l'inconnue. Avec le changement de $E$ en $A + E$ cette symétrie se brise immédiatement, et $A$ assume dès le début le rôle de la valeur inconnue du point maximum. Par conséquent, si la relation $f(A) = f(E)$ était une véritable égalité, car $A$ et $E$ étaient les deux racines de l'équation $f(A) = Z$, au moment où $E$ sera remplacé par $A + E$, la relation transformée $f(A) = f(A + E)$ ne sera plus une égalité entre deux valeurs de la quantité $f$, toutes les deux égales à $Z$, mais une adégalité entre la valeur maximum $f(A)$ et la valeur $f(A + E)$, nécessairement moindre que la précédente. Comme Fermat le dit lui-même dans une lettre à Mersenne,

> Cette comparaison par adégalité produit deux termes inégaux qui enfin produisent l'égalité (selon ma méthode) qui nous donne la solution de la question²⁰.

Ce sont donc des termes inégaux qui se trouvent aux deux membres d'une adéquation ; qui ne deviennent égaux que quand $E$ devient nul. C'est seulement à ce moment là que l'adéquation devient une véritable équation, d'où on tire la valeur $A$ qui résout le problème.

Le texte IV se conclut avec la réitération des raisons qui plaident en faveur de la nouvelle méthode :

> Patet priorem illam methodum intricatam nimis ut plurimum evadere, propter crebras illas divisionum per binomia iterationes. Recurrendum ergo ad posteriorem, quae tamen, licet ex priori, ut jam

<footnote>⁽²⁰⁾ Œuvres, II, 137. Cette pièce a dû échapper à H. Breger, qui dans son article *The misteries of Adaequare: a vindication of Fermat* (Arch. Hist. Ex. Sci. 46 (1994) 193-219) soutient que *adequare* serait un synonyme de *aequare*, contre ce qu'il appelle le *Dogme* qui voudrait que l'adégalité soit quelque chose de différent de l'égalité. Fermat serait-il donc la première victime du dogme?</footnote>
dictum est, deducta, miram certe facilitatem et compendia innumera peritioribus abunde suppeditavit Analystis, imo et ad inventionem tangentium, centrorum gravitatis, asymptoton, aliorumque id genus, longe expeditior altera illa evadet et elegantior²¹.

et avec l'énonciation de la règle de calcul :

Statuatur quaelibet questionis terminus esse *A* (sive planum, sive solidum aut longitudo, prout proposito satisfieri par est) et, inventa maxima aut minima in terminis sub *A*, gradu <aut gradibus>, ut libet, involutis, ponatur rursus idem qui prius terminus esse *A* + *E*, iterumque inveniatur maxima aut minima in terminis sub *A* et *E* gradibus, ut libet, coefficientibus. Adaequentur, ut loquitur Diophantus, duo homogenea maximae aut minimae aequalia et, demptis communibus (quo peracto, homogenea omnia ex parte alterutra ab *E* vel ipsius gradibus afficiuntur), applicentur omnia ad *E* vel ad elatiorem ipsius gradum, donec aliquod ex homogeneis, ex parte utravis, affectione sub *E* omnino liberetur. Elidantur deinde utrimque homogenea sub *E* aut sub ipsius gradibus quomodolibet involuta, et reliqua aequentur, aut, si una parte nihil superest, aequentur sane, quod eodem recidit negata affirmatis. Resolutio ultimae istius aequalitatis dabit valorem *A*, qua cognita, maxima aut minima ex repetitis prioris resolutionis vestigiis innotescet²².

Le même passage est répété au début de I, la pièce envoyée à Descartes. Ici et dans les autres textes il n'est plus question de la première méthode, qui ne sera plus mentionnée.

À la fin de notre examen du premier groupe de textes, nous pouvons esquisser avec Mahoney quelques conclusions :

1. La méthode des maxima et minima de Fermat a son origine à la confluence des recherches sur la synthèse de Viète et du passage de Pappus sur la singularité du point maximum ou minimum.

2. La première rédaction de la méthode trouve les deux racines *A* et *E* en position presque symétrique, les lettres *A* et *E* représentant des variables jusqu'au moment où *E* devenant égale à *A*, cette dernière devient une inconnue dans l'équation qui donne la position du maximum.

<footnote>(21) *Œuvres*, I, 152.</footnote>

<footnote>(22) *Œuvres*, I, 153.</footnote>
3. La substitution de $A + E$ à $E$ brise cette symétrie, et élimine le caractère de variabilité de la quantité $A$, qui désigne dès le début la valeur du point maximum.

4. Par conséquent, l'équation qui liait $A$ à $E$ devient une adéquation, c'est-à-dire une relation entre «deux termes inégaux qui enfin produisent l'égalité».

C'est donc l'adéquation qui occupera dorénavant le centre du débat, qu'il s'agisse de la recherche des maxima et des minima ou du problème des tangentes. L'équation de la courbe, si elle existe, ne sera qu'un des moyens possibles pour parvenir à l'adéquation.

### 4. De la méthode à la règle : facilité d'usage et difficulté d'interprétation

Le fait que la deuxième méthode commence avec les mots mêmes qui terminent la première n'est pas sans signification. En effet la première méthode, qui prenait son point de départ dans la théorie des équations de Viète combinée avec la remarque de Pappus, se déroulait rigoureusement<sup>23</sup> d'après ces prémisses : l'exposé de Fermat était en même temps une explication et une démonstration. C'est seulement à la fin de ce parcours qu'on pouvait énoncer la règle pour trouver les maxima et les minima, une règle qui résumait et couronnait la méthode qu'on avait démontrée. Au contraire, placée au début de la pièce, la même règle était un précepte de calcul, qu'on pouvait suivre pour arriver rapidement à la solution du problème, mais qui n'avait en elle rien de la théorie dont elle était sortie. Bref, le passage de la première à la deuxième méthode est aussi un passage de la méthode à la règle.

En effet, privée de ses liens explicites avec la syncrise de Viète, la règle de Fermat devient difficile à justifier, voire à démontrer. Nous en avons un témoignage dans la lettre à Brûlart de Saint Martin<sup>24</sup>, où Fermat cherche, sinon à démontrer, du moins à expliquer les raisons qui conduisent à sa règle.

La lettre commence avec une référence à la remarque de Pappus, que la valeur qui donne le maximum est «unicam et singularem». Associée à la syncrise, cette remarque parlait de deux racines qui se confondent en une

<footnote n="23"><sup>23</sup> Naturellement, au niveau de rigueur de l'époque. Car autrement on devrait commencer par démontrer l'existence d'un minimum, ce qui nécessiterait une théorie des nombres réels, bref, l'analyse moderne.</footnote>

<footnote n="24"><sup>24</sup> 31 mars 1634. *Œuvres, Supplément*, 120-125. Voir aussi la lettre à Mersenne du 7 avril 1643, *Œuvres II*, 253-254.</footnote>
au maximum ; privée comme ici de tout lien avec Viète, qui n’est pas même mentionné, elle n’est autre que l’énonciation de l’unicité du maximum, un point tout à fait inessentiel. À la place de la syncrise, Fermat introduit ici la remarque importante, peut-être suggérée par les objections de Descartes, que le maximum ou le minimum, qui est atteint au point A, doit être comparé avec les valeurs de la fonction aux points $A+E$ et $A-E$, c’est-à-dire des deux cotés de A. Il faut donc d’un coté que l’équation qui donne le point A soit indépendante du signe de E, et de l’autre que les valeurs en $A+E$ et $A-E$ soient toutes deux plus petites (dans le cas d’un maximum) ou plus grandes (pour le minimum) que la valeur en A.

> Il paroist donc que $A+E$ donne la mesme équation que $A-E$ par ma méthode. Mais cecy ne suffit pas entièrement, car s'il ne falloit que trouver une mesme équation par $A+E$ que par $A-E$, nous pourrions aussi bien prendre les deux termes qui ont, par exemple, $E^2$ ou $E^3$, etc. que ceux qui n'ont que $E$ seulement, et les esgaliser l'un à l'autre, ce qui pourtant ne réussiroit pas. Il faut donc, outre la précaution précédente, qui veut que $A+E$ donne la mesme équation que $A-E$, en adiouster une autre, qui veut que, si $A+E$ donne moins que $A$, $A-E$ donne aussy moins que $A$, et pareillement, si $A+E$ donne plus que $A$, $A-E$ donne aussy plus que $A^2$.

Fermat semble considérer ici comme évident le fait que l’équation qui donne la valeur de A étant indépendante du signe de E, elle s’obtient en égalant à zéro un des coefficients des puissances de E, et que tout le problème se réduit à démontrer qu’il s’agit du coefficient de E. En tout cas, il ne pense pas que cette assertion aurait besoin de quelques mots d’explication. Le même concept est répété dans l’exemple qui suit, relatif au maximum de $BA^2 - A^3$. Après avoir remplacé A par $A+E$ et $A-E$, il dit :

> Si nous prenons les termes qui sont mesurez par $E$ simple, nous aurons en toutes les deux équations de $A+E$ et de $A-E$, une mesme équation, car il faudra en toutes deux esgaler $2BAE$ à $3A^2E$. Si nous prenons les termes qui sont mesurez par $E^2$, nous aurions une mesme équation par $A+E$ que par $A-E$, car en toutes les deux il faudroit esgaler $BE^2$ à $3AE^2$. Il faut donc rendre raison pourquoy nous prenons plutost $E$ simple qu’aucune de ses puissances$^{26}$.

La raison, selon Fermat, découle de la deuxième règle énoncée plus haut :

> C’est qu’il est nécessaire qu’en toutes les deux positions les homogènes, qui se comparent avec $BA^2 - A^3$, soient chacun moindre

<footnote>(25) *Œuvres*, Supplément, 123.</footnote>

<footnote>(26) *Œuvres*, Supplément, 124.</footnote>
que $BA^2 - A^3, \dots$ ce qui ne peut arriver qu'en esgalisant entr'eux les termes, qui sont mesurez par la plus basse puissance de $E$, qui est icy $E$. De quoy la raison est parce que les termes, mesurez par la plus basse puissance de $E$, ont tousiours plus grande raison entr'eux que ceux qui sont mesurez par $E^2$ ou par $E^3$, etc., et ceux qui sont mesurez par $E^2$, ont plus grande raison entr'eux que ceux qui sont mesurez par $E^3$, $E^4$, etc. Comme en cet exemple, prenant $A+E$, et faisant l'équation des deux termes mesurez par $E$ seulement, nous aurons d'un costé $2BAE$, de l'autre $3A^2E$ ; or $2BAE$ est en plus grande raison à $3A^2E$ que (en prenant les deux termes mesurez par $E^2$) $BE^2$ à $3AE^2$, de quoy la rayson est parce que la multiplication analytique double $B$ en la précédente équation, qui est icy simple. Si donc nous esgalisons $2BAE$ avec $3A^2E$, donc $BE^2$ sera moindre que$^{27}$ $3AE^2$.

Fermat reste ici très près de son exemple, car le raisonnement en termes de rapports entre les termes qui forment les coefficients des différentes puissances de $E$ ne peut avoir lieu que si chaque coefficient est formé de deux termes, ce qui n'est pas toujours le cas. En effet, il apparaît que Fermat se sert des rapports seulement pour conclure que dans le cas du point stationnaire, c'est-à-dire quand $2BA = 3A^2$, on a $B - 3A < 0$, d'où un maximum.

Tout cela est sans doute vrai, mais me semble un peu hors de propos. Car dans un point stationnaire $A$ la dérivée seconde (si on me passe cette expression) est toujours soit positive soit négative (sauf dans le cas où elle serait nulle, dans lequel cas la règle de Fermat est en défaut), et on ne voit pas comment ce fait pourrait déterminer le choix du coefficient de $E$ pour la détermination de la valeur de $A$. Le point ici est évidemment que dans le voisinage de $E = 0$ le signe d'un polynôme est déterminé par celui de la puissance la plus basse de $E$, ce qui n'entre pas dans le raisonnement de Fermat, sauf peut-être quand il parle du terme en $E^3$ :

> Et la dernière puissance de $E$, qui se trouve tousiours seule, et qui est icy $E^3$, ne changera point l'ordre de l'équation de quelque signe qu'elle soit marquée, ce qui nous paroistra clairement à la seule inspection. La raison principalle de cecy est que les deux termes marquez par $E^2$, estans en plus grande raison que ceux qui sont mesurez par les plus hautes puissances au dessus de $E^2$, ils serviront de clef pour déterminer la plus grande ou la plus petite$^{28}$.

<footnote>(27) *Œuvres*, Supplément, 124-125.</footnote>

<footnote>(28) *Œuvres*, Supplément, 125.</footnote>
En conclusion, ni la lettre à Brûlart, ni celle à Mersenne qui précise seulement des points secondaires, ne donne des explications précises sur les fondements de la deuxième méthode, qui se présente plus comme une règle pour la détermination des maxima et des minima que comme une théorie démontrée à partir de ses principes.

## 5. La dérivée

Avant de continuer notre analyse des méthodes fermatiennes, il ne sera pas inutile de débarrasser le champ d'une tradition qui se présente de temps en temps dans la littérature : celle qui indique Fermat comme l'inventeur de la dérivée. Le premier responsable de cette tradition est probablement Lagrange, qui dans les notes historiques de sa *Théorie des fonctions analytiques* a attribué à Fermat l'invention du calcul différentiel. Dès lors, la chose a été répétée à plusieurs reprises, et elle est devenue une espèce de vulgate, qui trouve sa place dans les exposés historiques plus élémentaires, et parfois même dans les recherches plus avancées.

En effet, la tentation de lire le procédé de Fermat comme l'introduction de la dérivée est très forte, car tout sauf le nom semble y entrer : on commence par écrire l'égalité $f(A) = f(E)$, ou $f(A) - f(E) = 0$, d'où divisant par $A - E$,

$$ \frac{f(A) - f(E)}{A - E} = 0. $$

Une fois la division faite, on pose $E = A$, et donc

$$ \left. \frac{f(A) - f(E)}{A - E} \right|_{E=A} = 0. $$

On doit admettre que la tentation de lire l'équation précédente comme si elle disait

$$ f'(A) = 0 $$

est très forte. Il est vrai, il ne s'agit pas d'une véritable limite, car Fermat se borne à substituer $A$ à $E$ une fois que les simplifications nécessaires ont été effectuées, mais on ne peut pas prétendre trouver au début du dix-septième siècle des subtilités qui ne s'affirmeront que deux siècles plus tard ; et, à bien voir, Fermat n'en est pas tellement loin, par exemple quand il dit :

> Si sumatur aliud planum, loco Z plani, quod sit maius quam Z planum, sed minus quadrante B quadrati, tunc rectae A et E minus inter se different quam superiores, quum puncta divisionis magis accedent ad punctum rectanguli maximi constitutivum, semperque,
auctis divisionum rectangulis, ipsarum *A* et *E* differentia minuetur, donec per ultimam maximi rectanguli divisionem evanescat, quo casu $\mu\alpha\alpha\chi\eta$ vel unica continget solutio, quum duae aequales <fient> quantitates, hoc est, *A* aequabitur $E^{29}$.

À première vue donc, l'attribution à Fermat de l'invention de la dérivée semble soutenue par de bonnes raisons. Mais si on regarde avec un peu plus d'attention, surtout si on ne s'arrête pas aux mots mais si on tient compte des propriétés mathématiques de la dérivée, on se rend compte que cette interprétation un peu ingénue ne tient pas, et que Fermat, loin d'avoir inventé la dérivée, a inventé tout, sauf la dérivée.

En effet, dans la liste de passages qu'on a esquissée quelques lignes plus haut, on ne trouve jamais un point essentiel : la considération de la dérivée $f'(A)$ indépendamment de l'équation $f'(A) = 0$ qui la renfermerait. Or cela est un pas essentiel : la dérivée étant une opération qui prend une fonction $f$ et la transforme en une deuxième fonction $f'$. C'est seulement après avoir compris le caractère opérationnel de la dérivée qu'il est possible de donner les règles de calcul, et de calculer par exemple la dérivée de la somme comme la somme des dérivées, et la dérivée du produit ou de la racine avec les règles qu'on connaît. En deux mots, la dérivée est une opération locale ; elle s'applique à des fonctions composées en les séparant en leurs composantes. Au contraire, une équation est toujours globale ; elle doit prendre les fonctions comme elles sont. Si la fonction $f$ est la somme de deux fonctions, $f = g+h$, la dérivée est la somme des dérivées : $f' = g'+h'$, mais l'équation $f' = 0$ ne se divise pas en les deux équations $g' = 0$ et $h' = 0$.

Un argument pour l'inexistence de la dérivée chez Fermat est la difficulté de l'application de sa méthode aux fonctions composées de plusieurs radicaux, comme par exemple

$$ \sqrt[3]{Z^2A - A^3} + \sqrt[4]{B^4 - D^2BA + A^4} + \sqrt{BA - A^2} + \sqrt[5]{A^5 - B^4A} $$

que Fermat propose à Carcavi<sup>30</sup>. Une fois qu'on a la dérivée, des fonctions de cette sorte ne sont pas plus difficiles à traiter que celles qui contiennent une seule racine, car la différentiation se fait terme par terme. Quand au contraire, comme c'est le cas pour Fermat, on ne possède pas la dérivée, le calcul de ces fonctions demande l'élimination préalable des racines, ce qui peut se faire avec la méthode d'élimination mise en place par Fermat lui-même, mais qui conduit à des expressions si longues qu'il n'est pas possible matériellement de les écrire. Comme le dit Fermat à Carcavi,

<footnote><sup>(29)</sup> *Œuvres*, I, 148-149.</footnote>

<footnote><sup>(30)</sup> 20 août 1650. *Œuvres* II, 285.</footnote>
Je n'ajoute pas l'opération entière, pource que la longueur du travail
me lasseroit³¹.

6. Le traitement des radicaux

Le passage de la première à la deuxième méthode, on l'a déjà remarqué,
est aussi le passage d'une théorie à un algorithme ; les raisons devien-
nent moins évidentes mais les procédés sont plus rapides, et peuvent être
généralisés et étendus. Cela devient de plus en plus évident quand on aban-
donne les parties et les problèmes plus élémentaires pour aborder des ques-
tions plus difficiles et moins connues. C'est le cas surtout des pièces V et VI.

Comme on l'a dit, le texte V est dédié aux problèmes de maximum renfer-
mant des radicaux. Dans ce cas, la méthode usuelle, qui prévoit l'élimination
des termes qui ne contiennent pas E, ne fonctionne qu'après avoir éliminé
les radicaux de l'adéquation, une opération toujours pénible. La méthode
décrite en V permet de réaliser cette élimination en deux étapes succes-
sives plutôt que d'un seul coup comme on devrait le faire si on appliquait
directement la procédure usuelle.

Pour se faire une idée des avantages et des limites de la technique,
prenons l'exemple de Fermat, à savoir la recherche du maximum de la quan-
tité

$$
A + \sqrt{BA - A^2}.
$$

Soit O le maximum, dit Fermat. On aura donc

$$
A + \sqrt{BA - A^2} = O,
$$

et si on prend le carré après avoir isolé la racine :

$$
BA - 2A^2 + 2OA = O^2.
$$

Comme *O* est le maximum, *O*² sera aussi un maximum ; on pourra donc
appliquer la méthode précédente en considérant *O* comme donnée, et on
trouvera

$$
4A - B = 2O = 2A + 2\sqrt{BA - A^2},
$$

d'où

$$
2A - B = 2\sqrt{BA - A^2}
$$

et en conclusion

$8BA - 8A^2 = B^2,$

d'où on tire la valeur de A.

<footnote>(31) *Œuvres*, II, 286.</footnote>
On serait arrivé au même résultat en appliquant directement l'adégalité

$$A + \sqrt{BA - A^2} = A + E + \sqrt{B(A + E) - (A + E)^2}.$$

Ici on doit réunir d'abord les deux racines dans le même membre de l'adéquation :

$$\sqrt{BA - A^2} - \sqrt{B(A + E) - (A + E)^2} = E.$$

Une première élévation au carré réduit les racines à une seule :

$$2BA - 2A^2 + BE - 2AE - 2E^2 = 2\sqrt{BA - A^2}\sqrt{B(A + E) - (A + E)^2}$$

qui disparaît après une deuxième élévation :

$$4(BA - A^2)^2 + 4E(B - 2A)(BA - A^2) + E^2[(B - 2A)^2 + 8(A^2 - BA)] - 4E^3(B - 2A) + 4E^4 = 4(BA - A^2)^2 + 4E(B - 2A)(BA - A^2) - 4E^2(BA - A^2)$$

On voit aisément que les termes qui ne contiennent pas $E$, ainsi que ceux multipliés par $E$, disparaissent, et il reste

$$E^2(B^2 - 8AB + 8A^2) - 4E^3(B - 2A) + 4E^4 = 0$$

Si l'on divise par $E^2$ et que l'on pose $E = 0$, on trouve la même équation $8BA - 8A^2 = B^2$ qui donne la valeur de $A$.

On peut donc, du moins dans le cas considéré par Fermat, utiliser directement la méthode usuelle. Mais si on a fait tous ces calculs en détail, ce n'est pas pour montrer cette possibilité, qui n'est pas tellement importante dans l'économie de la théorie fermatienne. Ce qui nous intéresse dans ce cas est qu'il donne en exemple une adégalité où les termes d'ordre le plus bas sont en $E^2$. Comme on sait, dans l'énonciation de sa règle Fermat parlait de division par $E$ ou par une puissance de $E$ : « applicentur omnia ad $E$ vel ad elatiorem ipsius gradum ». Plusieurs commentateurs ont soutenu, non sans raison, que Fermat avait commis ici une erreur ; non sans raison car dans le cas d'un polynôme les termes en $E$ ne peuvent jamais s'évanouir. Au contraire, quand la quantité à minimiser ou maximiser contient une ou plusieurs racines, l'élévation au carré nécessaire pour les éliminer peut produire le phénomène prévu par Fermat. On doit donc penser que dans un premier temps Fermat avait traité les quantités contenant des racines avec la méthode usuelle<fnref n="32" />, qui conduisait parfois à la disparition des termes en

<footnote n="32">³² Un indice de ce niveau précédent pourrait être trouvé dans les mots de Fermat au début de la pièce quand il dit que, avec la nouvelle méthode, *multiplices et intricati ut plurimum vitabuntur ascensus* (*Œuvres*, I, 153).</footnote>
E, et qu'il ait tenu compte de cette éventualité dans l'énonciation de la règle générale³³.

En tout cas, comme on a pu le voir, la nouvelle méthode ne donne pas d'avantages substantiels dans le cas d'une seule racine, tandis qu'elle est supérieure à l'autre quand il y a deux ou trois racines. S'il y en a quatre ou plus, aucune méthode ne conduit au but ; la solution de ce problème sera trouvée plus avant avec la technique d'élimination³⁴. C'est probablement à cette méthode que Fermat fait allusion quand il dit à Mersenne³⁵ «je donnerai infinies tangentes de courbes dont la proportion est pleine d'asymétries », en donnant comme exemple la courbe dont l'ordonnée est

$$ \sqrt{B^2 + A^2} + \sqrt{D^2 - A^2} + \sqrt{RA - A^2} + \sqrt{\frac{A^3 - BA^2}{D}} + \sqrt{\frac{A^4 + D^2A^2}{B^2 + A^2}} $$

Malheureusement, on ne trouve les calculs ni dans cette lettre ni ailleurs.

## 7. Les tangentes

On ne sait pas si Fermat avait appliqué sa première méthode au problème des tangentes ; toutes les pièces que nous avons sont fondées sur la deuxième. Il est certain d'autre part que, tandis que dans le cas des maxima et minima le passage d'une méthode à l'autre peut se faire petit à petit et ne demande pas de changements radicaux de point de vue, on ne voit pas comment on pourrait utiliser la première méthode des maxima et minima pour trouver les tangentes sans un bouleversement complet de la théorie. En effet, tandis que dans le cas des maxima ce qu'on cherche est la position du point maximum, une valeur qui peut être considérée comme « limite » commune des deux racines A et E dans la première méthode ou comme acquise mais inconnue dans la seconde, pour les tangentes la position du point de tangence est connue depuis le départ, et la quantité inconnue est la sous-tangente. Ainsi, à proprement parler, le problème des tangentes n'est pas un problème de maximum ou minimum au sens usuel ; on ne cherche pas la position du point maximum, mais la valeur d'un paramètre qui doit être déterminé de façon

<footnote>(33) À ma connaissance, seule K. Andersen (Techniques of the calculus 1630-1660, in I. Grattan Guinness (ed.) *From the calculus to set theory 1630-1910*, London, Duckworth 1980) a soutenu que la disparition des termes en E était une conséquence de l'élévation au carré nécessaire pour éliminer les racines : « The reason is that, if the quantity contained a square root, he squared the adequacy before applying the last steps of the rule », p. 24.</footnote>

<footnote>(34) *Œuvres*, I, 181-188.</footnote>

<footnote>(35) 26 décembre 1638, *Œuvres*, II, 177. Voir les lettres de Fermat à Mersenne, 1648 et à Carcavi, 20 août 1650, *Œuvres*, II, 282-287.</footnote>
que le maximum tombe en un point donné à l'avance<fnref n="36" />. Il semble donc que l'application de la méthode aux tangentes soit intervenue après le passage de l'équation à l'adéquation, donc entre 1630 et 1636, quand Fermat écrit à Roberval

Si M. Despagnet ne vous a proposé ma méthode que comme je la lui baillai pour lors, vous n'avez pas vu ses plus beaux usages ; car je la fais servir, en diversifiant un peu :

1) Pour l'invention des propositions pareilles à celles du conoïde que je vous envoyai par ma dernière ;

2) Pour l'invention des tangentes des lignes courbes, sur lequel su-jet je vous propose ce problème : *Ad datum punctum in con-choide Nicomedis invenire tangentem*<fnref n="37" />.

Quoi qu'il en soit, c'est la deuxième méthode que Fermat emploie tou-jours dans la recherche des tangentes, selon la règle qu'il décrit dans une lettre à Mersenne, datée du 20 avril 1638 :

> Il faut que M. Descartes sache, qu'après avoir tiré la parallèle qui concourt avec la tangente et avec l'axe ou diamètre des lignes courbes, je lui donne premièrement le nom qu'elle doit avoir comme ayant un de ses points dans la tangente, ce qui se fait par la règle des proportions qui se tire des triangles semblables. Après avoir donné le nom, tant à notre parallèle qu'à tous les autres termes de la ques-tion tout de même qu'en la parabole, je considère derechef cette parallèle, comme si le point qu'elle a dans la tangente étoit en ef-fet en la ligne courbe, et suivant la propriété spécifique de la ligne courbe, je compare cette parallèle par adégalité avec l'autre parallèle tirée du point donné à l'axe ou diamètre de la ligne courbe. Cette comparaison par adégalité produit deux termes inégaux qui enfin produisent l'égalité (selon ma méthode) qui nous donne la solution de la question<fnref n="38" />.

Nous pouvons voir la méthode à l'œuvre dans les pièces I et III, qui contiennent la détermination des tangentes à la parabole (I) et à l'ellipse (III). Voyons la première, suivant le texte de Fermat.

<footnote n="36">³⁶ Il faut remarquer ici que la méthode que Fermat propose à Descartes pour l'invention de la droite normale à une courbe, méthode qui consiste en la recherche du point de moindre distance d'un point donné, ne résout pas le vrai problème des tangentes. En effet, cette méthode ne trouve pas la normale (donc la tangente) en un point donné sur la courbe, mais la normale qui passe par un point donné en dehors de la courbe.</footnote>

<footnote n="37">³⁷ 22 septembre 1636. *Œuvres* II, 72. Voir aussi la lettre du 16 décembre 1636 : « depuis que je n'ai eu l'honneur de le voir (Despagnet), je l'ai beaucoup étendue et changée ».</footnote>

<footnote n="38">³⁸ *Œuvres*, II, 137.</footnote>
<figure><img src="image_1.png" /></figure>

La propriété caractéristique de la parabole est que les abscisses sont proportionnelles aux carrés des ordonnées : CD : DI = BC² : IH².

Tirons maintenant la tangente en B et prolongeons la droite HI jusqu'à rencontrer la tangente en O ; comme le point O est hors de la parabole on aura $IO > HI$, et donc le rapport CD : DI sera plus grand que $BC^2 : IO^2$. On pose maintenant $DC = D$, $CE = A$ et $CI = E$ ; pour les triangles semblables BCE et OIE, on a $BC : OI = CE : IE = A : A - E$, et donc

$$D : (D - E) > A^2 : (A - E)^2,$$

d'où

$$D(A - E)^2 > A^2(D - E).$$

Si maintenant on fait l'adéquation selon la méthode décrite plus haut, on trouvera

$$DA^2 - 2DAE + DE^2 \text{ adaeq. } A^2D - A^2E,$$

qui, après avoir simplifié les termes communs, avoir divisé par $E$, et avoir éliminé le terme qui contient $E$, donne $2DA = A^2$, et donc $A = 2D$.

La méthode est générale : ayant posé $CB = B$, $CE = A$, $CI = E$, Fermat trouve d'abord la ligne $IO$ grâce à la similitude des triangles CBE et IOE :

$$IO = B \frac{A - E}{A},$$

puis il écrit la propriété caractéristique de la courbe (qui n'est pas nécessairement l'équation) comme si le point $O$ était sur elle et non pas sur la tangente. Cette adéquation permettra de déterminer la valeur $A$ de la sous-tangente CE, et donc la tangente.

Le même concept est repris dans la pièce VI, qui est dédiée à la doctrine des tangentes :
Consideramus nempe in plano cujuslibet curvae rectas duas posi-
tione datas, quarum altera diameter, si libeat, altera applicata nun-
cupetur. Deinde, jam inventam tangentem supponentes ad datum in
curva punctum, proprietatem specificam curvae, non in curva am-
plius, sed in invenienda tangente, per adaequalitatem consideramus
et, elisis (quae monet doctrina de maxima et minima) homogeneis,
fit demum aequalitas quae punctum concursus tangentis cum di-
ametro determinat, ideoque ipsam tangentem³⁹.

Nous verrons la méthode en action dans le cas de la tangente à la cissoïde de Dioclès, un problème que Fermat avait proposé à Roberval.

<figure><img src="image_2.png" /></figure>

Pour trouver la tangente en un point H donné, Fermat appelle A la
sous-tangente DF, et pose AD = Z, DG = N, DH = R, et DE = E.

La propriété caractéristique de la cissoïde IHG est donnée par la pro-
portion

$$
MD : DG = DG : DH,
$$

c'est-à-dire, compte tenu que DM = $\sqrt{ZN}$,

$$
R\sqrt{ZN} = N^2.
$$

Cela posé, « proprietas specifica debet considerari non amplius in curva,
sed in tangente » ; on devra donc faire

$$
NE : EG = EG : EO.
$$

<footnote>(39) *Œuvres*, I, 159.</footnote>
Puisque

$$EG = N - E,$$
$$EO = (RA - RE)/A,$$
$$EN = \sqrt{ZN - ZE + NE - E^2},$$

on trouve

$$\sqrt{ZN - ZE + NE - E^2} : (N - E) = (N - E) : \frac{RA - RE}{A},$$

d'où, après une élévation au carré et des calculs simples :

$$(N - E)^4 A^2 = (ZN - ZE + NE - E^2)(RA - RE)^2.$$

Les termes qui ne contiennent pas $E$ s'éliminent à cause de la relation caractéristique $R\sqrt{ZN} = N^2$. Divisant par $E$ et posant $E = 0$, on parvient enfin à l'équation

$$3ZA + NA = 2ZN$$

qui donne la sous-tangente $A$.

La même méthode donne la tangente à la conchoïde de Nicomède et quelques mois plus tard⁴⁰ celle au folium que Descartes avait envoyé à Fermat comme problème à résoudre.

Comme d'habitude, autant Fermat n'est pas avare de détails dans les exemples, autant il est réticent dans les explications. On ne trouvera donc presque jamais de justifications de sa règle des tangentes. Là où on s'en approche le plus, c'est dans le traitement de la tangente à la parabole qu'il donne en I, où, ayant pris un point O sur la tangente, il dit

major erit proportio CD ad DI quam quadrati BC ad quadratum OI, quia punctum O est extra parabolen ; sed, propter similitudinem triangulorum, ut BC quadratum ad OI quadratum, ita CE quadratum ad IE quadratum ; major igitur erit proportion CD ad DI quam quadrati CE ad quadratum IE⁴¹

après quoi il remplace cette inégalité par l'adégalité correspondante.

<footnote>(40) Lettre à Mersenne, juin 1638. Œuvres, II, 156-157.</footnote>

<footnote>(41) Œuvres, I, 135.</footnote>
<figure><img src="image_3.png" /></figure>

On a ainsi un parallélisme entre l'adéquation qui conduit à la solution des problèmes de maximum et de minimum, et celle qui donne la tangente à une courbe, cette dernière pouvant être considérée comme une généralisation de la première. Dans le cas des maxima et minima, l'adéquation consiste à considérer la valeur de la fonction en $A + E$ comme si elle était égale à celle en $A$, donc au maximum. Dit autrement, on calcule la valeur en $A + E$ non pas sur la courbe (la représentation graphique de la fonction) mais sur la tangente au point maximum. Le passage à la méthode des tangentes est immédiat : on obtiendra l'adéquation en écrivant la propriété caractéristique de la courbe non sur elle mais sur la tangente.

## 8. Les courbes transcendantes

Jusque là, bien que plus simple, la méthode de Fermat a permis d'obtenir les mêmes résultats que celle de Descartes. Mais le véritable succès de la technique d'adéquation est la construction des tangentes aux courbes transcendantes ou, plus précisément, aux courbes qui dépendent algébriquement de la longueur d'un arc d'une autre courbe algébrique. La méthode d'adéquation appliquée aux courbes algébriques consistait à écrire la propriété caractéristique de la courbe pour les points sur la tangente ; ou, autrement dit, à remplacer les points sur la courbe par les points correspondants sur la tangente. Pour les courbes transcendantes, on fait un pas supplémentaire, et on remplace les arcs de courbe par les portions correspondantes de la tangente. C'est là le second cas considéré par Fermat, celui que Descartes avait jugé difficile, voire impossible. La règle, énoncée par Fermat dans VI, est la suivante :

> Quamdiu rectis tantum lineis homogenea implicabuntur, quaerantur ipsa et designentur per praecedentem formulam. Imo et, vitandae asymmetriae causa, aliquando, si libuerit, applicatae ad tangentes ex superiore methodo inventas pro applicatis ad ipsas curvas sumantur ; et demum (quod operae pretium est) portiones tangentium jam inventarum pro portionibus curvae ipsis subjacentis sumantur, et
procedat adaequalitas ut supra monuimus : proposito nullo negotio
satisfiet⁴².

Dans VI, Fermat applique sa méthode à la cycloïde, la seule courbe pour laquelle les calculs soient explicités, et donne la construction de la tangente à la quadratrice, sans en faire l'analyse. Dans une lettre à Mersenne⁴³, il considère aussi un ovale et une courbe semblable à la cycloïde, mais avec une parabole à la place du cercle, encore une fois sans calculs. Nous donnerons ce dernier exemple.

Soit ADE une parabole, avec foyer en O, et soit ABF une ligne telle que pour tout point C sur l'axe, l'appliquée BC soit égale à la longueur de la portion de parabole AD. Pour trouver la tangente BN en B, on considère le point D correspondant sur la parabole et la tangente relative DP. Posons

<figure><img src="image_4.png" /></figure>

$BC = B$

$CN = A$

$AC = D$

$DC = M$

$PD = N$.

En raison des propriétés de la tangente à la parabole, on a $PA = AC = D$. Soit maintenant $CI = E$ ; on a $NI = A + E$ et puisque $HI : BC = NI : NC$, HI sera égal à $B(A + E)/A$.

On doit adégaler la longueur HI à celle de la courbe AS, c'est-à-dire
à AD + DS, qui par la propriété de la courbe est égal à BC + DS. Main-
tenant, à la place de la portion de courbe DS, on peut prendre la portion
correspondante DR de la tangente ; on aura donc BC + DR.

D'autre part DR : CI = PD : PC, donc $DR = NE/2D$. On aura en
conclusion l'adégalité

$$
B \frac{A + E}{A} = B + \frac{NE}{2D},
$$

d'où on trouve immédiatement

$$
A = \frac{2DB}{N}.
$$

<footnote>(42) Œuvres, I, 162.</footnote>

<footnote>(43) 22 octobre 1638. Œuvres, II, 172-173.</footnote>
Pour retrouver le résultat énoncé par Fermat, il faut se souvenir que la distance focale $F = AO$ est égale à $M^2/4D$. Si on remarque que $N^2 = M^2 + 4D^2$, on trouve

$$A^2 = \frac{4D^2B^2}{N^2} = \frac{4D^2B^2}{M^2 + 4D^2} = \frac{B^2D}{D + F}.$$

On a alors :

Faisons comme $OA + AC$ à $AC$, ainsi le quarré $BC$ au quarré $CN$. La ligne $BN$ touchera la courbe $FBA^{44}$.

## 9. Pour conclure

À la fin de cette analyse de l'œuvre de Fermat sur les maxima et minima, arrêtons-nous et faisons le point sur notre reconstruction de la genèse et de l'évolution de la méthode.

1. L'origine de la théorie de Fermat peut être trouvée dans la confluence de la synchrise de Viète avec la remarque de Pappus sur l'unicité du minimum ou du maximum. Fermat introduit deux quantités variables $A$ et $E$, qui donnent la même valeur pour la quantité à minimiser, et qui entrent d'une manière symétrique dans la position du problème. Elles, et en particulier celle qu'on nomme $A$, sont d'abord des quantités variables et inconnues ; puis quand, après avoir simplifié l'égalité et avoir divisé par $A - E$, on aura posé $E = A$, cette dernière quantité, la seule qui reste dans l'équation, sera maintenant une quantité fixe (la valeur qui rend maximale ou minimale la quantité donnée) et inconnue, dont la valeur sera trouvée en résolvant l'équation finale. Les équations qui apparaissent dans ce premier état de la théorie sont toujours des égalités pures.

2. Une première modification apparemment innocente consiste en un changement de variable : on écrit $A + E$ à la place de $E$. La justification officielle de ce choix est la simplification qu'il apporte dans les calculs, la division par $A - E$ étant remplacée par la division la plus simple par $E$. On ne sait pas si le récit de Fermat doit être considéré comme un véritable compte-rendu du développement de la théorie ou s'il s'agit d'un artifice rhétorique, pour induire le lecteur à accepter sans difficulté le passage de $A$ et $E$ à $A$ et $A + E$. Quoi qu'il en soit, ce passage brise la symétrie entre les deux variables, dont seule

<footnote>(44) *Œuvres*, II, 173.</footnote>
E reste telle, tandis que A dénote dès le début la valeur, inconnue mais fixe, du point maximum. Par conséquent, l'équation entre les valeurs correspondant à A et à A + E ne peut plus subsister en tant qu'égalité ; elle devient une adégalité, à savoir la comparaison entre « deux termes inégaux qui enfin produisent l'égalité ». Si on ne craignait pas d'être mal compris, on pourrait dire qu'une adégalité est une égalité en puissance.

3. La nouvelle version de la méthode est essentielle pour son adaptation au problème des tangentes, car dans ce cas le point minimum ou maximum, qui coïncide avec le point de tangence, est fixe et connu. Sa position sera alors donnée par une constante B, de la même façon que la valeur qui donnait le maximum, fixe mais inconnue, était désignée par A. Il n'est pas clair que l'on puisse appliquer la première méthode à la recherche des tangentes ; mais même si la réponse est positive, cela conduirait à une méthode complètement différente de celle que nous trouvons dans Fermat.

4. Des indices ultérieurs de l'éxistence de deux étapes successives dans le développement de la théorie se trouvent dans la correspondance de Fermat, en particulier dans une lettre à Roberval⁴⁵ du 16 décembre 1636, où Fermat dit que

> Toutes ces propositions... dépendent de la méthode dont M.
> Despagnet ne vous a pu faire voir qu'un seul cas, parce que,
> depuis que je n'ai l'honneur de le voir, je l'ai beaucoup étendue
> et changée.

5. Dans le cas des tangentes, l'adéquation consiste à considérer le point sur la tangente comme s'il était sur la courbe, et donc à écrire la propriété caractéristique de la courbe (on doit noter que Fermat ne parle jamais de l'équation de la courbe, mais de sa propriété caractéristique, qui n'est pas nécessairement la même chose) pour un point sur la tangente. La relation ainsi trouvée est suffisante pour déterminer la tangente aux courbes algébriques.

6. Pour les courbes qui ne sont pas algébriques, mais qui dépendent algébriquement de la longueur d'un arc d'une autre courbe algébrique (comme par exemple la cycloïde ou la quadratrice) on peut arriver à l'adéquation en remplaçant les ordonnées de la courbe par les ordonnées correspondantes de la tangente et, ce qui marque la différence, la longueur des arcs de courbe par celle des segments correspondants de la tangente.

<footnote>(45) *Œuvres*, II, 94.</footnote>
Bibliographie

ANDERSEN (K.). — « Techniques of the calculus 1630-1660 », in I. Grattan Guinness (ed.)
From the calculus to set theory 1630-1910, London, Duckworth, p. 10-48 (1980).

BREGER (H.). — « The misteries of Adaequare : a vindication of Fermat », Arch. Hist. Ex. Sci. 46, p. 193-219 (1994).

CIFOLETTI (G.). — La méthode de Fermat : son statut et sa diffusion, Paris, Belin (1991).

HENRY (Ch.). — « Recherches sur les manuscrits de Pierre de Fermat », Bull. Bibl. Sto. Sci. Mat. Fis. (Boncompagni) XII, 477-568 et 619-740 (1879).

ITARD (J.). — « Fermat précurseur du calcul différentiel », Arch. Int. Hist. Sci. 27, p. 589-610 (1948).

MAHONEY (M.S.). — (1994) The mathematical career of Pierre de Fermat, Princeton, University Press, 1973 (2e ed.).

STRØMHOLM (P.). — « Fermat’s method of maxima and minima and of tangents », Arch. Hist. Ex. Sci. 5, p. 47-69 (1968-69).

WEILEITNER (H.). — « Bemerkungen zu Fermats Methode der Aufsuchung von Extremwerten und der Bes timmung Kurventangenten », Jahresber. Deut. Math.-Verein. 38, p. 24-35 (1929).