Lemme de Schur

(i) Soit $f : V \to V'$ un morphisme. Son noyau est stable (Représentations, (i)), donc égal à $\{0\}$ ou à $V$. Dans le second cas $f = 0$. Dans le premier, $f$ est injective, son image est stable et non nulle, puisque $V \neq \{0\}$, donc égale à $V'$ : $f$ est bijective.

(ii) Soit $n = \dim E \geqslant 1$. L'espace $\mathcal L(E)$ est de dimension $n^2$ (Matrices, (i)), donc les $n^2 + 1$ endomorphismes $\mathrm{id}_E, u, \dots, u^{n^2}$ sont liés (Dimension, (ii)) : il existe $P \neq 0$ dans $\mathbb C[X]$ tel que $P(u) = 0$.

L'ensemble $B$ des $\sum_k a_ku^k$ est stable par somme et par composition, puisque $u^k \circ u^l = u^{k+l}$, et contient $\mathrm{id}_E$ ; c'est un anneau commutatif pour la composition, $u^k$ et $u^l$ commutant. Par la propriété universelle (Évaluation, (i)), appliquée au morphisme $a \mapsto a\,\mathrm{id}_E$ de $\mathbb C$ dans $B$, l'application $Q \mapsto Q(u)$ est un morphisme d'anneaux de $\mathbb C[X]$ dans $B$.

Le polynôme $P$ n'est pas constant, car $c\,\mathrm{id}_E \neq 0$ pour $c \neq 0$, $E$ n'étant pas nul. Par le théorème de d'Alembert-Gauss (D'Alembert-Gauss, (i)), admis ici et démontré en analyse complexe, branche parallèle à celle-ci (voir la remarque), $P = c(X - z_1)\cdots(X - z_m)$ avec $c \neq 0$ et $m \geqslant 1$, d'où $$\begin{aligned} 0 = P(u) = c\,&(u - z_1\mathrm{id}_E) \circ \cdots \\ &\circ (u - z_m\mathrm{id}_E). \end{aligned}$$

Si chaque $u - z_i\mathrm{id}_E$ était injectif, il serait bijectif (Théorème du rang), et le membre de droite aussi, ce qui contredit sa nullité. L'un des $u - z_i\mathrm{id}_E$ n'est donc pas injectif : $z_i$ est une valeur propre de $u$.

(iii) Soit $f \in \operatorname{Hom}_G(V, V)$ et $\lambda$ une valeur propre de $f$, qui existe par (ii). L'application $f - \lambda\,\mathrm{id}_V$ est un morphisme non injectif ; par (i), elle est nulle.

Si $V$ et $V'$ ne sont pas isomorphes, tout morphisme de $V$ dans $V'$ est nul par (i). S'ils le sont, par un isomorphisme $\varphi$, l'application $f \mapsto \varphi^{-1} \circ f$ est une bijection linéaire de $\operatorname{Hom}_G(V, V')$ sur $\operatorname{Hom}_G(V, V)$, de réciproque $f \mapsto \varphi \circ f$, et ce dernier espace est la droite engendrée par $\mathrm{id}_V \neq 0$.

(iv) Si $G$ est abélien, $\rho(g)\rho(h) = \rho(gh) = \rho(hg) = \rho(h)\rho(g)$ : chaque $\rho(g)$ appartient à $\operatorname{Hom}_G(V, V)$, donc est une homothétie par (iii). Toute droite de $V$ est alors stable ; comme $V$ est irréductible et non nul, $V$ est cette droite.