Exercice 29

1. Supposons que $u$ stabilise le drapeau $(F_{i})$. Par le théorème de la base incomplète (chapitre 15), on construit une base $(e_{1}, \dots, e_{n})$ telle que $F_{i} = \mathrm{Vect}(e_{1}, \dots, e_{i})$ pour tout $i$, en complétant à chaque étape une base de $F_{i - 1}$ par un vecteur de $F_{i} \setminus F_{i - 1}$. Alors $u(e_{j}) \in F_{j}$ est combinaison de $e_{1}, \dots, e_{j}$ : la $j$-ième colonne de la matrice n'a de coefficients non nuls que sur les lignes $1$ à $j$, et la matrice est triangulaire supérieure. Réciproquement, si la matrice dans une base $(e_{1}, \dots, e_{n})$ est triangulaire supérieure, les sous-espaces $F_{i} = \mathrm{Vect}(e_{1}, \dots, e_{i})$ forment un drapeau complet stable par $u$.

2. On prend le drapeau $F_{i} = \mathrm{Vect}(e_{1}, \dots, e_{i})$ associé à la base canonique. Comme $A$ est triangulaire à diagonale nulle, $Ae_{j} = \sum_{i < j} a_{ij}e_{i} \in F_{j - 1}$, donc $u_{A}(F_{i}) \subset F_{i - 1}$. Par récurrence, $u_{A}^{k}(E) \subset F_{n - k}$, et en particulier $u_{A}^{n}(E) \subset F_{0} = \{0\}$. $$\boxed{A \text{ triangulaire supérieure à diagonale nulle} \implies A^{n} = 0}$$ À retenir. Chaque application de $A$ fait descendre d'un cran dans le drapeau : au bout de $n$ crans, il ne reste rien. C'est la version géométrique du calcul $N^{d} = 0$ de l'exercice 10.