Les caractères irréductibles, base des fonctions centrales

(i) Les fonctions centrales forment un sous-espace de $\mathbb C^G$. Les classes de conjugaison $C_1, \dots, C_s$ forment une partition de $G$ (Actions de groupe, (i)), et leurs fonctions indicatrices $1_{C_j}$ en forment une base : une fonction centrale $f$ s'écrit $\sum_j f(g_{C_j})1_{C_j}$, et ces fonctions, à supports disjoints, sont libres. Cet espace est donc de dimension $s$.

Les $\chi_i$ sont centrales (Caractères, (i)) et orthonormées (Orthogonalité, (i)) ; une relation $\sum_i a_i\chi_i = 0$, à laquelle on applique $\langle \cdot, \chi_j \rangle$, donne $a_j = 0$ : elles sont libres.

Elles engendrent. Soit $f$ centrale et $f' = f - \sum_i \langle f, \chi_i \rangle \chi_i$, centrale et orthogonale à chaque $\chi_j$.

Pour toute représentation $(V, \rho)$, posons $$u_V = \sum_{g \in G} \overline{f'(g)}\,\rho(g).$$ Pour $h \in G$, en posant $g' = hgh^{-1}$ et en utilisant $f'(h^{-1}g'h) = f'(g')$, $$\begin{aligned} \rho(h)\,u_V\,\rho(h)^{-1} &= \sum_g \overline{f'(g)}\,\rho(hgh^{-1}) \\ &= \sum_{g'} \overline{f'(g')}\,\rho(g') = u_V : \end{aligned}$$ $u_V$ est un morphisme de $V$ dans $V$.

Si $V = W_i$, le lemme de Schur (Schur, (iii), où le théorème de d'Alembert-Gauss est admis) donne $u_V = \lambda\,\mathrm{id}$, et $$\begin{aligned} \lambda d_i &= \operatorname{tr} u_V = \sum_g \overline{f'(g)}\,\chi_i(g) \\ &= |G|\,\overline{\langle f', \chi_i \rangle} = 0, \end{aligned}$$ d'où $\lambda = 0$.

Si $V$ est irréductible et $\varphi : W_i \to V$ un isomorphisme, $u_V = \varphi \circ u_{W_i} \circ \varphi^{-1} = 0$. Pour $V$ quelconque, chaque sous-espace stable irréductible $U$ d'une décomposition de Maschke est stable par $u_V$, qui y induit $u_U = 0$ : donc $u_V = 0$.

Pour la représentation régulière, $u(e_e) = \sum_g \overline{f'(g)}\,e_g = 0$, et, les $e_g$ formant une base, $f' = 0$. Les $\chi_i$ forment donc une base, et $r = s$ ; la nullité de $f'$ est l'écriture annoncée de $f$.

(ii) Soit $C$ la classe de $h$. Par (i), puisque $$\langle 1_C, \chi_i \rangle = \frac{1}{|G|}\sum_{g \in C} \overline{\chi_i(g)} = \frac{|C|}{|G|}\,\overline{\chi_i(h)},$$ on a $1_C = \frac{|C|}{|G|}\sum_i \overline{\chi_i(h)}\,\chi_i$. En évaluant en $g$, la somme cherchée vaut $\frac{|G|}{|C|}\,1_C(g)$.

Enfin, si $g \in C$, $\frac{|G|}{|C|} = |C(g)|$, le cardinal de l'orbite de $g$ pour la conjugaison étant l'indice de son stabilisateur (Actions de groupe, (i) et (iii)).