Régularité Cᵏ du flot

Le système augmenté. Sur l'ouvert $U \times \mathcal M_n(\mathbb R)$ de $\mathbb R^{n + n^2}$, considérons le champ $$G(y, M) = \big(X(y),\ dX(y)M\big).$$ Si $X$ est de classe $C^{j+1}$, avec $j \geqslant 1$, $dX$ est de classe $C^j$ par définition, le produit $(P, M) \mapsto PM$ est bilinéaire, donc $C^\infty$, et $G$ est de classe $C^j$ (Classe Cᵏ, (ii) et (iii)).

Son flot. Pour $x \in U$, la fonction $t \mapsto (\varphi_t(x), Z_x(t))$, définie sur $]\alpha(x), \beta(x)[$, est solution de $(y, M)' = G(y, M)$, de valeur $(x, I)$ en $0$, par définition de $\varphi$ et de $Z_x$.

Elle est maximale : une solution définie sur un intervalle plus grand aurait pour première composante une solution de $y' = X(y)$ prolongeant la solution maximale issue de $x$. Si $\Phi$ désigne le flot de $G$ et $D_G$ son domaine, on a donc, pour $(t, x) \in D$, $$\begin{aligned} &(t, x, I) \in D_G, \\ &\Phi_t(x, I) = \big(\varphi_t(x), Z_x(t)\big). \end{aligned}$$

Récurrence. Notons $P(j)$ l'énoncé : pour tout entier $m$, tout ouvert de $\mathbb R^m$ et tout champ de classe $C^j$ sur cet ouvert, le flot est de classe $C^j$ sur son domaine. $P(1)$ est le point (ii) du nœud Équation variationnelle.

Supposons $P(j)$, et $X$ de classe $C^{j+1}$. Le champ $G$ est de classe $C^j$, et $P(j)$, appliqué en dimension $n + n^2$, montre que $\Phi$ est de classe $C^j$ sur l'ouvert $D_G$. L'application affine $(t, x) \mapsto (t, x, I)$ envoie $D$ dans $D_G$ ; par composition, $(t, x) \mapsto (\varphi_t(x), Z_x(t))$ est de classe $C^j$ sur $D$.

La matrice jacobienne de $\varphi$ en $(t, x)$ a pour première colonne $X(\varphi_t(x))$ et pour autres colonnes celles de $Z_x(t)$ (Équation variationnelle, (ii)). Ses coefficients sont de classe $C^j$, $X \circ \varphi$ comme composée de $X$, de classe $C^{j+1}$, et de $\varphi$, de classe $C^j$. Donc $d\varphi$ est de classe $C^j$, et $\varphi$, qui est $C^1$, est de classe $C^{j+1}$ : c'est $P(j + 1)$.

Conclusion. Pour $X$ de classe $C^k$, on obtient $P(k)$ si $k$ est fini, et $P(j)$ pour tout $j$ si $k = \infty$ ; l'application $Z$, partie de la différentielle de $\varphi$, est de classe $C^{k-1}$. Enfin $\varphi_t$ et $\varphi_{-t}$ sont de classe $C^k$ sur $D_t$ et $D_{-t}$, par composition avec $x \mapsto (t, x)$, et réciproques l'une de l'autre (Domaine du flot, (iv)).