Endomorphismes nilpotents

(i) Si $v^j(x) = 0$, alors $v^{j+1}(x) = v(v^j(x)) = 0$. Supposons $\operatorname{Ker} v^j = \operatorname{Ker} v^{j+1}$, et soit $x \in \operatorname{Ker} v^{j+2}$. Alors $v(x) \in \operatorname{Ker} v^{j+1} = \operatorname{Ker} v^j$, d'où $v^{j+1}(x) = 0$ : $\operatorname{Ker} v^{j+2} = \operatorname{Ker} v^{j+1}$, et l'on conclut par récurrence sur $i$.

(ii) La suite des noyaux. Soit $u$ nilpotent d'indice $r$. Pour $j < r$, $K_j \neq E = K_r$ ; une égalité $K_j = K_{j+1}$ avec $j < r$ donnerait, par (i), $K_j = K_r = E$. Les inclusions sont donc strictes, et $\dim K_j \geqslant j$, d'où $r \leqslant n$.

Nilpotent ⇒ triangulaire stricte. Le polynôme $X^r$, scindé, annule $u$ : par Trigonalisation, (i), la matrice de $u$ est triangulaire dans une base. Ses coefficients diagonaux sont des racines de $\chi_u$ (Trigonalisation, (ii)), donc des valeurs propres, donc des racines de $\mu_u$ (Cayley-Hamilton, (ii)).

Comme $\mu_u$ divise $X^r$, une telle racine $\lambda$ vérifie $\lambda^r = 0$ : les coefficients diagonaux sont nuls.

Triangulaire stricte ⇒ $\chi_u = X^n$ par Sous-espaces stables, (iv). $\chi_u = X^n$ ⇒ $u^n = 0$ par le théorème de Cayley-Hamilton (Cayley-Hamilton, (i)). Enfin $u^n = 0$ entraîne que $u$ est nilpotent.

Le polynôme minimal divise $X^r$, scindé ; c'est donc un $X^k$ (Polynôme caractéristique, (v)), et $k = r$ par définition de l'indice. La trace est l'opposé du coefficient de $X^{n-1}$ dans $\chi_u = X^n$ (Polynôme caractéristique, (ii)), c'est-à-dire $0$.

(iii) Montrons par récurrence sur $m$ que $(u + v)^m$ est une somme de termes $u^k \circ v^{m-k}$, chacun répété un nombre fini de fois. C'est clair pour $m = 0$. Si c'est vrai pour $m$, alors $$\begin{aligned} &(u + v) \circ u^k \circ v^{m-k} \\ &\quad = u^{k+1} \circ v^{m-k} + u^k \circ v^{m+1-k}, \end{aligned}$$ puisque $v \circ u^k = u^k \circ v$ (Polynômes d'endomorphismes, (i)).

Si $u^a = 0$ et $v^b = 0$, prenons $m = a + b - 1$ : dans chaque terme, $k \geqslant a$ ou $m - k \geqslant b$, et le terme est nul. De même $(u \circ v)^a = u^a \circ v^a = 0$.

(iv) Dans une base de vecteurs propres, la matrice de $u$ est diagonale, de coefficients $\lambda_i$, et celle de $u^r$ est diagonale, de coefficients $\lambda_i^r$. Si $u^r = 0$, chaque $\lambda_i^r$ est nul, donc chaque $\lambda_i$, le corps étant intègre : $u = 0$.