Proposition 1Représentations des groupes finis

Représentations, sous-représentations, morphismes

Dans ce chapitre, $G$ est un groupe fini, de neutre $e$ , et $K$ un corps. Pour un espace vectoriel $V$ sur $K$ , de dimension finie, on note $GL(V)$ le groupe, pour la composition, des applications linéaires bijectives de $V$ dans $V$ ; la réciproque d'une telle application est linéaire (Applications linéaires, (ii)).

Une représentation de $G$ sur $K$ est un couple $(V, \rho)$ formé d'un espace vectoriel $V$ de dimension finie sur $K$ et d'un morphisme de groupes $\rho : G \to GL(V)$ ; son degré est $\dim V$ . On écrit souvent $V$ pour $(V, \rho)$ .

Dans une base de $V$ , de dimension $d$ , la représentation devient le morphisme $g \mapsto \operatorname{Mat}\rho(g)$ de $G$ dans le groupe ${GL_d}(K)$ des matrices inversibles de ${\mathcal M_d}(K)$ (Matrices, (ii)).

Un sous-espace $W$ de $V$ est stable si $\rho(g)(W) \subset W$ pour tout $g \in G$ . La représentation est irréductible si $V \neq \{0\}$ et si ses seuls sous-espaces stables sont $\{0\}$ et $V$ .

Un morphisme de $(V, \rho)$ dans $(V', \rho')$ est une application linéaire $f : V \to V'$ telle que $f \circ \rho(g) = \rho'(g) \circ f$ pour tout $g$ .

L'ensemble des morphismes, sous-espace de ${\mathcal L}(V, V')$ , est noté $\operatorname{Hom}_G(V, V')$ . Un isomorphisme de représentations est un morphisme bijectif.

La somme directe de $(V, \rho)$ et $(V', \rho')$ est $V \times V'$ , muni de $(\rho \oplus \rho')(g)(x, x') = \big(\rho(g)x,\ \rho'(g)x'\big).$

Pour un entier $n \geqslant 0$ , on note $n \cdot 1_K$ la somme de $n$ termes égaux à $1$ dans $K$ .

Premier exemple, la représentation triviale est $V = K$ , avec $\rho(g) = \mathrm{id}$ pour tout $g$ .

Soit ensuite une action de $G$ sur un ensemble fini non vide $X$ (Actions de groupe). On note $K^X$ l'espace des familles $(a_x)_{x \in X}$ d'éléments de $K$ , de base $(e_x)_{x \in X}$ , où $e_x$ a pour seule coordonnée non nulle un $1$ en $x$ . La représentation de permutation $\rho_X$ sur cet espace est définie en (iii).

La représentation régulière est celle de l'action de $G$ sur lui-même par translation à gauche, $g \cdot h = gh$ , sur l'espace $K^G$ de base $(e_h)_{h \in G}$ .

Énoncé

(i) Le noyau et l'image d'un morphisme de représentations sont stables, et la réciproque d'un isomorphisme est un morphisme. Si $W$ est stable, chaque $\rho(g)$ induit un élément $\rho_W(g)$ de $GL(W)$ , et $(W, \rho_W)$ est une représentation, appelée sous-représentation.

(ii) La somme directe est une représentation de degré $\dim V + \dim V'$ . Si $V = W \oplus W'$ avec $W$ et $W'$ stables, l'application $(w, w') \mapsto w + w'$ est un isomorphisme de la somme directe de $W$ et $W'$ sur $V$ . Une représentation de degré $1$ est irréductible.

(iii) Il existe une unique représentation $\rho_X$ de $G$ sur $K^X$ telle que $\rho_X(g)e_x = e_{g \cdot x}$ pour tous $g$ et $x$ . La droite $Ks$ engendrée par $s = \sum_{x \in X} e_x$ est stable, et chaque $\rho_X(g)$ y est l'identité ; l'hyperplan $H = \Big\{\sum_x a_xe_x : \sum_x a_x = 0\Big\}$ est stable. Si $|X| \cdot 1_K \neq 0$ , alors $K^X = Ks \oplus H$ .

(iv) Pour $n \geqslant 1$ , la signature $\varepsilon$ , vue dans $K$ , définit une représentation de degré $1$ de ${\mathfrak S_n}$ , $\rho(\sigma) = \varepsilon(\sigma)\,\mathrm{id}_K$ .

Démonstration

(i) Si $f(x) = 0$ , alors $f(\rho(g)x) = \rho'(g)f(x) = 0$ ; et $\rho'(g)f(x) = f(\rho(g)x)$ appartient à l'image. Si $f$ est bijective, en composant l'égalité $f \circ \rho(g) = \rho'(g) \circ f$ par $f^{-1}$ à gauche et à droite, on obtient $\rho(g) \circ f^{-1} = f^{-1} \circ \rho'(g)$ .

Si $W$ est stable, la restriction de $\rho(g)$ envoie $W$ dans $W$ et y est linéaire et injective, donc bijective, $W$ étant de dimension finie (Théorème du rang) ; on a $\rho_W(g)\rho_W(h) = \rho_W(gh)$ , puisque c'est vrai pour $\rho$ .

(ii) L'application $(\rho \oplus \rho')(g)$ est linéaire, se compose composante par composante, et a pour réciproque $(\rho \oplus \rho')(g^{-1})$ ; la dimension de $V \times V'$ est $\dim V + \dim V'$ (Théorème du rang).

L'application $(w, w') \mapsto w + w'$ est linéaire, bijective par définition d'une somme directe, et $\rho(g)(w + w') = \rho(g)w + \rho(g)w',$ avec $\rho(g)w \in W$ et $\rho(g)w' \in W'$ : c'est un morphisme. Enfin, les sous-espaces d'une droite sont $\{0\}$ et la droite elle-même (Dimension, (iii)).

(iii) Pour chaque $g$ , une application linéaire est déterminée par les images des vecteurs d'une base, qui peuvent être données arbitrairement (Familles libres, bases) : d'où l'existence et l'unicité de l'application linéaire $\rho_X(g)$ . On a $\begin{aligned} \rho_X(g)\rho_X(h)e_x &= e_{g \cdot (h \cdot x)} \\ &= e_{(gh) \cdot x} = \rho_X(gh)e_x, \end{aligned}$ et $\rho_X(e) = \mathrm{id}$ ; donc $\rho_X(g)$ est bijective, de réciproque $\rho_X(g^{-1})$ , et $\rho_X$ est un morphisme.

L'application $x \mapsto g \cdot x$ est une bijection de $X$ , de réciproque $x \mapsto g^{-1} \cdot x$ ; par suite $\rho_X(g)s = \sum_x e_{g \cdot x} = s$ , et $\rho_X(g)\Big(\sum_x a_xe_x\Big) = \sum_y a_{g^{-1} \cdot y}\,e_y$ a la même somme de coordonnées que $\sum_x a_xe_x$ : $H$ est stable.

L'hyperplan $H$ est le noyau de la forme linéaire non nulle $\sum_x a_xe_x \mapsto \sum_x a_x$ , donc de dimension $|X| - 1$ (Théorème du rang). La somme des coordonnées de $s$ est $|X| \cdot 1_K$ ; si elle n'est pas nulle, $Ks \cap H = \{0\}$ , la somme $Ks + H$ est directe (Sommes directes, (i)) et de dimension $|X|$ , donc égale à $K^X$ (Dimension, (iii)).

(iv) La signature est un morphisme de $\mathfrak S_n$ dans $\{1, -1\}$ (Permutations, signature, (ii)), et $c \mapsto c\,\mathrm{id}_K$ est un morphisme du groupe multiplicatif $K \setminus \{0\}$ dans $GL(K)$ .

□

Remarque

Pour l'action de $\mathfrak S_3$ sur $\{1, 2, 3\}$ , la représentation de permutation est ${\mathbb C}^3$ , où $\sigma$ envoie $e_i$ sur $e_{\sigma(i)}$ : sa matrice est la matrice de permutation de $\sigma$ . Le point (iii) donne la décomposition $\mathbb C^3 = \mathbb C(1, 1, 1) \oplus \{x + y + z = 0\},$ et le nœud Table de 𝔖₃ montrera que le plan $\{x + y + z = 0\}$ est irréductible.

Remarque

Une représentation n'est rien d'autre qu'une action de $G$ sur $V$ par des applications linéaires. La représentation régulière linéarise le théorème de Cayley (Actions de groupe, (ii)) : comme $\rho_{\mathrm{reg}}(g)e_e = e_g$ , le morphisme $\rho_{\mathrm{reg}}$ est injectif, et tout groupe fini est isomorphe à un groupe de matrices de permutation.

Remarque

L'erreur la plus répandue est de croire que l'irréductibilité ne dépend que du groupe et de l'espace. Elle dépend du corps.

Le groupe $\mathbb Z/4\mathbb Z$ agit sur ${\mathbb R}^2$ par la rotation $J$ d'un quart de tour, $\bar k \mapsto J^k$ ; aucune droite réelle n'est stable, $J$ n'ayant pas de valeur propre réelle (Valeurs propres), et la représentation est irréductible sur $\mathbb R$ .

Sur $\mathbb C$ , les droites engendrées par $(1, -i)$ et $(1, i)$ , sur lesquelles $J$ agit par $i$ et $-i$ , sont stables.

Repose sur

C'est un point de départ.

Sert à

Théorème de Maschke Lemme de Schur Caractère d'une représentation