ATLAS Ouvrir dans l'atlas →

AnnalesÉcoles d'ingénieurs

X-ENS PSI 2025 — Maths

La descente de gradient et ses variantes · 8 pages

Le sujet étudie l'algorithme de descente de gradient pour une fonction d'une variable : convergence géométrique sous forte convexité, convergence lente en valeur pour une fonction seulement convexe à dérivée lipschitzienne. Il traite ensuite la descente proximale (opérateur proximal 1-lipschitzien) et, en dimension finie, la descente de gradient projetée sur la boule unité pour une forme quadratique, reliée à la méthode de la puissance.

Le sujet, partie par partie

Notations et Partie I — Préliminaires p. 2–3

Descente de gradient · Fonctions convexes · Continuité · Suites numériques · Compacité — descente de gradient, existence d'un minimiseur, fonction coercive, dérivée lipschitzienne, fonction convexe

Partie II — Convergence rapide sous des hypothèses fortes p. 3–4

Descente de gradient · Fonctions convexes · Suites numériques · Dérivabilité — forte convexité, convergence géométrique, pas de temps, minimiseur unique

Partie III — Convergence lente sous des hypothèses faibles p. 4–5

Descente de gradient · Fonctions convexes · Suites numériques · Compacité · Séries numériques · Développements limités — convergence en valeur, vitesse de convergence en 1/n1/n, théorème de Bolzano-Weierstrass, suite récurrente, inégalité de convexité

Partie IV — Descente de gradient proximale p. 5–7

Descente de gradient · Points fixes et suites itératives · Fonctions convexes · Suites numériques — opérateur proximal, descente de gradient implicite, application 1-lipschitzienne, point fixe, valeur absolue

Partie V — Optimisation sur la boule unité p. 7–8

Descente de gradient · Extrema liés et multiplicateurs de Lagrange · Matrices symétriques positives · Calcul différentiel · Compacité · Théorème spectral — descente de gradient projetée, extrema liés, gradient, matrice symétrique positive, méthode de la puissance, boule unité

Ouvrir dans l'atlas interactif →