Ensembles ω-limites et principe d'invariance de LaSalle

(i) La courbe reste dans le compact $K$ de $U$, et le nœud Sortie des compacts, (iii), donne $\beta(x) = +\infty$. Notons $F_T$ l'adhérence de $\{\varphi_t(x) : t \geqslant T\}$. Le compact $K$ est fermé (Parties compactes, (ii)), donc $F_T \subset K$ ; les $F_T$ sont fermés, non vides, et décroissants en $T$.

Une intersection finie $F_{T_1} \cap \dots \cap F_{T_k}$ est égale à $F_{\max T_i}$, non vide. Par la compacité de $K$, sous la forme des fermés (Compacité), l'intersection $\omega(x)$ n'est pas vide ; c'est un fermé de $K$, donc un compact (Parties compactes, (i)).

Soit $O$ un ouvert contenant $\omega(x)$, et supposons que, pour tout $T$, il existe $t \geqslant T$ tel que $\varphi_t(x) \notin O$. Les fermés $G_T = F_T \setminus O$ de $K$ sont alors non vides et décroissants ; leur intersection, non vide par le même argument, est formée de points de $\omega(x)$ hors de $O$, ce qui est absurde. Aucune suite n'est extraite, et aucun choix n'intervient.

(ii) $V$ est constante. Par Fonctions de Liapounov, (i), $g(t) = V(\varphi_t(x))$ est décroissante (Signe de la dérivée) ; elle est minorée par le minimum de $V$ sur $K$ (Compacts de ℝ, (iii)). Soit $\ell$ sa borne inférieure, qui est sa limite.

Pour $T \geqslant 0$, l'ensemble $\{z \in K : \ell \leqslant V(z) \leqslant g(T)\}$ est fermé, $V$ étant continue, et contient les $\varphi_t(x)$ pour $t \geqslant T$ ; il contient donc $F_T$. Tout $y \in \omega(x)$ vérifie ainsi $\ell \leqslant V(y) \leqslant g(T)$ pour tout $T$, d'où $V(y) = \ell$.

Invariance. Soit $y \in \omega(x)$, $s \in [0, \beta(y)[$ et $\varepsilon > 0$. Le domaine du flot est ouvert et le flot y est continu (Domaine du flot, (iii)) : il existe $\rho > 0$ tel que, pour $\|z - y\| < \rho$, $\varphi_s(z)$ soit défini et $\|\varphi_s(z) - \varphi_s(y)\| < \varepsilon$.

Pour tout $T$, comme $y \in F_T$, il existe $t \geqslant T$ tel que $\|\varphi_t(x) - y\| < \rho$ ; alors $\varphi_{s+t}(x) = \varphi_s(\varphi_t(x))$ (Flot, (i)) est à distance au plus $\varepsilon$ de $\varphi_s(y)$, avec $s + t \geqslant T$. Ainsi $\varphi_s(y)$ est adhérent à $\{\varphi_u(x) : u \geqslant T\}$ pour tout $T$ : $\varphi_s(y) \in \omega(x)$.

La courbe issue de $y$ reste donc dans $\omega(x) \subset K$ sur $[0, \beta(y)[$, et le nœud Sortie des compacts, (iii), donne $\beta(y) = +\infty$ : $\omega(x)$ est positivement invariant.

Inclusion dans $E$. Pour $y \in \omega(x)$, la fonction $s \mapsto V(\varphi_s(y))$ est constante, égale à $\ell$, sur $[0, +\infty[$. Sa dérivée en $0$, qui est sa dérivée à droite, est nulle ; c'est $\dot V(y)$ par Fonctions de Liapounov, (i).

(iii) Tout point $y$ de $\omega(x)$ a, par (ii), sa courbe intégrale définie sur $[0, +\infty[$ et contenue dans $\omega(x) \subset E$ ; donc $y = a$. Comme $\omega(x)$ n'est pas vide, $\omega(x) = \{a\}$, et (i), appliqué aux boules $O = B(a, \eta)$, donne $\varphi_t(x) \to a$.

(iv) L'équilibre est stable (Fonctions de Liapounov, (ii)). Avec les notations de ce point, toute courbe issue d'un point $x \in B(a, r)$ tel que $V(x) < m$ reste dans le compact $K = \bar B(a, r)$, contenu dans $W$. L'hypothèse dit exactement que (iii) s'applique avec ce compact : $\varphi_t(x) \to a$. Par continuité de $V$ en $a$, ces points $x$ forment un voisinage de $a$, et l'équilibre est attractif.