Exercice 40

1. Si $f^{n}(x) = 0$, alors $f^{n + 1}(x) = f(0) = 0$ ; et $f^{n + 1}(x) = f^{n}(f(x)) \in \operatorname{Im} f^{n}$.

2. La suite $(\dim\mathrm{Ker}\, f^{n})$ est croissante, majorée par $\dim E$, et la suite $(\dim\operatorname{Im} f^{n})$ est décroissante et positive ; ce sont des suites d'entiers, donc elles sont constantes à partir d'un certain rang. Leur somme vaut $\dim E$ (théorème du rang).

3. Soit $p$ le plus petit entier tel que $\mathrm{Ker}\, f^{p} = \mathrm{Ker}\, f^{p + 1}$, qui existe par la question 2 et le théorème 5. Montrons que $\mathrm{Ker}\, f^{p + k} = \mathrm{Ker}\, f^{p + k + 1}$ pour tout $k$ : si $f^{p + k + 1}(x) = 0$, alors $f^{k}(x) \in \mathrm{Ker}\, f^{p + 1} = \mathrm{Ker}\, f^{p}$, donc $f^{p + k}(x) = 0$. Par le théorème du rang et l'inclusion de la question 1, $\operatorname{Im} f^{n + 1} = \operatorname{Im} f^{n}$ équivaut à $\mathrm{Ker}\, f^{n + 1} = \mathrm{Ker}\, f^{n}$ : les deux suites se stabilisent exactement au même rang $p$.

4. L'exercice 34, appliqué à $f^{n}$ puis $f$, donne $$d_{n} - d_{n + 1} = \dim(\operatorname{Im} f^{n} \cap \mathrm{Ker}\, f).$$ Comme $\operatorname{Im} f^{n + 1} \subset \operatorname{Im} f^{n}$, cette quantité décroît avec $n$, ce qui s'écrit $d_{n + 1} - d_{n + 2} \leqslant d_{n} - d_{n + 1}$, soit $$\boxed{d_{n + 1} \leqslant \frac{d_{n} + d_{n + 2}}{2}}$$ La suite des rangs est donc « convexe » : ses décroissances successives diminuent.