AnnalesÉcoles d'ingénieurs
X-ENS PSI 2025 — Maths
Le sujet étudie l'algorithme de descente de gradient pour une fonction d'une variable : convergence géométrique sous forte convexité, convergence lente en valeur pour une fonction seulement convexe à dérivée lipschitzienne. Il traite ensuite la descente proximale (opérateur proximal 1-lipschitzien) et, en dimension finie, la descente de gradient projetée sur la boule unité pour une forme quadratique, reliée à la méthode de la puissance.
Le sujet, partie par partie
Notations et Partie I — Préliminaires p. 2–3
Descente de gradient · Fonctions convexes · Continuité · Suites numériques · Compacité — descente de gradient, existence d'un minimiseur, fonction coercive, dérivée lipschitzienne, fonction convexe
Partie II — Convergence rapide sous des hypothèses fortes p. 3–4
Descente de gradient · Fonctions convexes · Suites numériques · Dérivabilité — forte convexité, convergence géométrique, pas de temps, minimiseur unique
Partie III — Convergence lente sous des hypothèses faibles p. 4–5
Descente de gradient · Fonctions convexes · Suites numériques · Compacité · Séries numériques · Développements limités — convergence en valeur, vitesse de convergence en , théorème de Bolzano-Weierstrass, suite récurrente, inégalité de convexité
Partie IV — Descente de gradient proximale p. 5–7
Descente de gradient · Points fixes et suites itératives · Fonctions convexes · Suites numériques — opérateur proximal, descente de gradient implicite, application 1-lipschitzienne, point fixe, valeur absolue
Partie V — Optimisation sur la boule unité p. 7–8
Descente de gradient · Extrema liés et multiplicateurs de Lagrange · Matrices symétriques positives · Calcul différentiel · Compacité · Théorème spectral — descente de gradient projetée, extrema liés, gradient, matrice symétrique positive, méthode de la puissance, boule unité