Réduction de Jordan des endomorphismes nilpotents

(i) Un lemme. Soit $j \geqslant 2$ et $W$ un sous-espace de $K_j$ tel que $W \cap K_{j-1} = \{0\}$. Alors $u(W) \subset K_{j-1}$, $u$ est injectif sur $W$, et $u(W) \cap K_{j-2} = \{0\}$.

En effet, $u^{j-1}(u(x)) = u^j(x) = 0$ pour $x \in W$. Si $u(x) \in K_{j-2}$, alors $u^{j-1}(x) = 0$, donc $x \in W \cap K_{j-1}$ et $x = 0$ ; ceci donne à la fois l'injectivité, pour $u(x) = 0$, et la dernière assertion.

Construction. On construit, par récurrence descendante sur $j$, des sous-espaces $W_r, \dots, W_1$ tels que $K_j = K_{j-1} \oplus W_j$, et des familles finies $T_j$ telles que $W_j$ ait pour base la réunion de $T_j$ et de l'image par $u$ de la base choisie de $W_{j+1}$.

Pour $j = r$, on complète une base de $K_{r-1}$ en une base de $K_r = E$ (Dimension, (iii)) ; les vecteurs ajoutés forment $T_r$, et $W_r = \operatorname{Vect}(T_r)$.

Soit $1 \leqslant j < r$, et $W_{j+1}$ construit, de base $\mathcal B_{j+1}$, avec $W_{j+1} \subset K_{j+1}$ et $W_{j+1} \cap K_j = \{0\}$. Par le lemme, appliqué avec $j + 1 \geqslant 2$, $u(\mathcal B_{j+1})$ est une base de $u(W_{j+1})$, contenu dans $K_j$ et d'intersection nulle avec $K_{j-1}$.

Une base de $K_{j-1}$, suivie de $u(\mathcal B_{j+1})$, est donc libre ; on la complète en une base de $K_j$ par une famille $T_j$, et l'on pose $\mathcal B_j = u(\mathcal B_{j+1}) \cup T_j$, $W_j = \operatorname{Vect}(\mathcal B_j)$. Alors $K_j = K_{j-1} \oplus W_j$, et $W_j \cap K_{j-1} = \{0\}$, ce qui permet de poursuivre.

La base. Par récurrence sur $j$, $K_j = W_1 \oplus \cdots \oplus W_j$ : c'est vrai pour $j = 1$, puisque $K_0 = \{0\}$, et si c'est vrai pour $j - 1$, $K_j = K_{j-1} \oplus W_j$ donne le résultat pour $j$, une relation $x_1 + \cdots + x_j = 0$ imposant d'abord $x_j = 0$, puis les autres. Pour $j = r$, $E = W_1 \oplus \cdots \oplus W_r$, et la réunion des $\mathcal B_j$ est une base de $E$ (Sous-espaces stables, (i)). Par construction, ses éléments sont les $u^i(t)$, pour $t \in T_j$ et $0 \leqslant i \leqslant j - 1$, chacun une seule fois.

Rangeons-les chaîne par chaîne : pour chaque $t \in T_j$, la famille $(u^{j-1}(t), \dots, u(t), t)$. L'endomorphisme $u$ envoie chaque terme sur le précédent, et le premier sur $u^j(t) = 0$, puisque $t \in K_j$. La matrice de $u$ restreinte à cette chaîne est $J_j$, et la matrice de $u$ est diagonale par blocs.

(ii) La puissance $J_k^j$ envoie $f_i$ sur $f_{i-j}$ si $i > j$, et sur $0$ sinon ; son noyau est de dimension $\min(j, k)$. La matrice de $u^j$ étant diagonale par blocs, de blocs $J_{k_b}^j$, son noyau est la somme directe des noyaux des blocs, et $$\dim K_j = \sum_{b=1}^s \min(j, k_b).$$

Or $\min(j, k) - \min(j - 1, k)$ vaut $1$ si $k \geqslant j$, et $0$ sinon : la différence $\dim K_j - \dim K_{j-1}$ compte les blocs de taille au moins $j$. Pour $j = 1$, on obtient $s$ ; et il y a un bloc de taille au moins $j$ si et seulement si $K_{j-1} \neq K_j$, c'est-à-dire $j \leqslant r$ (Nilpotents, (ii)).