Caractères linéaires et abélianisé

(i) On a $[x, y]^{-1} = yxy^{-1}x^{-1} = [y, x]$ ; l'inverse d'un produit de commutateurs est le produit, dans l'ordre inverse, de leurs inverses, encore des commutateurs. L'ensemble $D(G)$ contient $e$ et est stable par produit : c'est un sous-groupe.

Il est distingué, puisque $$g[x, y]g^{-1} = [gxg^{-1}, gyg^{-1}],$$ et que la conjugaison par $g$ respecte les produits. Par Groupes résolubles, (i), $G/N$ est abélien si et seulement si $N$ contient tous les commutateurs, donc tous leurs produits.

(ii) Un caractère linéaire $\lambda$ est un morphisme vers le groupe abélien $\mathbb C^\times$ : $\lambda([x, y]) = \lambda(x)\lambda(y)\lambda(x)^{-1}\lambda(y)^{-1} = 1$, et $D(G) \subset \operatorname{Ker} \lambda$. Il passe donc au quotient en un unique morphisme $\mu$ tel que $\lambda = \mu \circ \pi$ (Théorème d'isomorphisme).

Réciproquement, $\mu \circ \pi$ est un morphisme de $G$ dans $\mathbb C^\times$, et $\mu$ est déterminé par $\mu \circ \pi$, $\pi$ étant surjective.

(iii) Dans un groupe abélien, $hgh^{-1} = g$ : les classes de conjugaison sont les singletons, au nombre de $|A|$, et $A$ a $|A|$ caractères irréductibles deux à deux distincts (Fonctions centrales, (i)), tous de degré $1$ par le lemme de Schur (Schur, (iv), où le théorème de d'Alembert-Gauss est admis). Ce sont donc des caractères linéaires ; réciproquement, un caractère linéaire est irréductible (Représentations, (ii)). La dernière assertion découle de (ii) appliqué au groupe abélien $G/D(G)$.

(iv) Les scalaires commutent aux endomorphismes, donc $$\lambda(gh)\rho(gh) = \lambda(g)\rho(g)\,\lambda(h)\rho(h),$$ et $\lambda(g)\rho(g)$ est inversible puisque $\lambda(g) \neq 0$. Sa trace est $\lambda(g)\chi_V(g)$. Comme $|\lambda(g)| = 1$ (Caractères, (iv)), $$\begin{aligned} \langle \lambda\chi_V, \lambda\chi_V \rangle &= \frac{1}{|G|}\sum_g |\lambda(g)|^2|\chi_V(g)|^2 \\ &= \langle \chi_V, \chi_V \rangle, \end{aligned}$$ et l'on conclut par Orthogonalité, (iv).