Exercice 70

Idée. L'inégalité appliquée avec des matrices inversibles montre que $f$ est constante sur les classes d'équivalence, donc ne dépend que du rang ; appliquée aux matrices $J_{r}$, elle montre que cette dépendance est croissante.

Si $P$ et $Q$ sont inversibles, on a $$f(PAQ) \leqslant f(AQ) \leqslant f(A) \qquad \text{et} \qquad f(A) = f\big(P^{-1}(PAQ)Q^{-1}\big) \leqslant f(PAQ).$$ Ainsi $f$ est constante sur chaque classe d'équivalence, c'est-à-dire, par le théorème 6, sur chaque ensemble de matrices de même rang : il existe $\varphi : [\![0\,;n]\!] \to \mathbb{R}$ telle que $f = \varphi \circ \mathrm{rg}$. Pour $r \leqslant s$, on a $J_{r} = J_{r}J_{s}$, donc $\varphi(r) = f(J_{r}) \leqslant f(J_{s}) = \varphi(s)$ : $\varphi$ est croissante.

Réciproquement, si $f = \varphi \circ \mathrm{rg}$ avec $\varphi$ croissante, l'inégalité $\mathrm{rg}(AB) \leqslant \min(\mathrm{rg} A, \mathrm{rg} B)$ donne $f(AB) \leqslant \min\big(f(A), f(B)\big)$. $$\boxed{f = \varphi \circ \mathrm{rg}, \qquad \varphi : [\![0\,;n]\!] \to \mathbb{R} \text{ croissante}}$$