Conditions suffisantes d'extremum et points cols

Pour $f(x, y) = x^3 + y^3 - 3xy$, les points critiques sont les solutions de $x^2 = y$ et $y^2 = x$, à savoir $(0, 0)$ et $(1, 1)$. En $(0, 0)$, la hessienne $\begin{pmatrix} 0 & -3 \\ -3 & 0 \end{pmatrix}$ a pour déterminant $-9$ : c'est un point col. En $(1, 1)$, $\alpha = 6$ et $\alpha\gamma - \beta^2 = 27$ : c'est un minimum local strict, où $f$ vaut $-1$.

Le minimum n'est que local : $f(x, 0) = x^3$ tend vers $-\infty$ quand $x$ tend vers $-\infty$.

Quand la hessienne est dégénérée, elle ne permet pas de conclure. Les fonctions $x^2 + y^4$, $x^2 - y^4$ et $x^2 + y^3$ ont toutes en $(0, 0)$ un point critique de hessienne $\begin{pmatrix} 2 & 0 \\ 0 & 0 \end{pmatrix}$, positive et dégénérée. La première y a un minimum strict ; la deuxième est négative sur l'axe des $y$ privé de l'origine et positive sur celui des $x$, comme en un col ; la troisième n'a pas d'extremum non plus, puisqu'elle vaut $y^3$ sur l'axe des $y$, mais elle est positive au voisinage de l'origine sur toute autre droite qui y passe.

Les fonctions $x^4 + y^4$, $-(x^4 + y^4)$ et $x^4 - y^4$, de hessienne nulle, ont respectivement un minimum, un maximum et aucun extremum : il faut alors examiner les termes d'ordre supérieur.

Une fonction peut même avoir un minimum local strict en $0$ le long de chaque droite passant par l'origine, sans avoir de minimum local en $0$. Pour $f(x, y) = (y - x^2)(y - 2x^2) = y^2 - 3x^2y + 2x^4$, on trouve, sur la droite dirigée par $(a, b)$, $$f(as, bs) = b^2 s^2 - 3a^2 b\, s^3 + 2a^4 s^4,$$ strictement positif pour $s \neq 0$ assez petit, que $b$ soit nul ou non. Pourtant $f(x, \frac32 x^2) = -\frac{x^4}{4} < 0$.

La hessienne $\begin{pmatrix} 0 & 0 \\ 0 & 2 \end{pmatrix}$ est positive et dégénérée. Au signe près, c'est la « surface de Peano », que Peano opposa à une condition d'extremum erronée de Serret, dans l'édition allemande qu'il donna du cours de Genocchi (A. Genocchi, Differentialrechnung und Grundzüge der Integralrechnung, éd. G. Peano, Teubner, 1899, p. 332) ; l'édition italienne de 1884 contenait déjà ses notes sur les conditions d'extremum.

La suite naturelle de ce chapitre est l'étude des extrema liés : chercher les extrema de $f$ sur un ensemble de niveau $\{g = 0\}$. Lorsque $dg(a)$ est surjective, la forme locale des submersions (Submersions) paramètre localement cet ensemble, et l'on montre que, si $a$ est un extremum local de $f$ sur cet ensemble, $df(a)$ s'annule sur $\operatorname{Ker} dg(a)$, c'est-à-dire est combinaison linéaire des différentielles des composantes de $g$ : ce sont les multiplicateurs de Lagrange (Multiplicateurs de Lagrange). Le point (i) ci-dessus a alors un analogue, où la hessienne de $f$ est remplacée par celle du lagrangien $f - \sum_i \lambda_i g_i$, restreinte à l'espace tangent (Second ordre) ; c'est l'objet du chapitre Extrema liés.

Le lemme de Morse va plus loin que (i) et (ii) : en un point critique où la hessienne est non dégénérée, une fonction de classe $C^\infty$ s'écrit, dans des coordonnées locales convenables, exactement $f(a) + x_1^2 + \cdots + x_{s_+}^2 - x_{s_+ + 1}^2 - \cdots - x_n^2$, sans reste. Il remonte à M. Morse, « Relations between the critical points of a real function of n independent variables » (Trans. Amer. Math. Soc. 27, 1925, p. 345-396) ; ce lemme est admis ici.