Groupes de Lie et groupes de matrices

(i) Une application lisse est continue, et une variété est séparée.

(ii) La multiplication des matrices est polynomiale en les coefficients, donc $C^\infty$ ; l'inversion est $C^\infty$ sur l'ouvert $GL_n(\mathbb R)$ (Groupe linéaire).

(iii) Soit $\mathcal S$ l'espace des matrices symétriques, de dimension $\frac{n(n+1)}2$, et $F(A) = {}^tAA$, de $\mathcal M_n$ dans $\mathcal S$, polynomiale, de différentielle $$dF(A)H = {}^tHA + {}^tAH.$$

Pour $A \in O(n)$ et $S \in \mathcal S$, $H = AS/2$ vérifie ${}^tHA = \frac12 S\,{}^tAA = \frac S2$ et ${}^tAH = \frac S2$, donc $dF(A)H = S$ : $dF(A)$ est surjective, et $O(n) = F^{-1}(I)$ est une sous-variété de dimension $$n^2 - \frac{n(n+1)}2 = \frac{n(n-1)}2$$ (Sous-variétés de ℝⁿ).

La multiplication et l'inversion $A \mapsto {}^tA$ y sont des restrictions d'applications $C^\infty$ de l'espace ambiant, donc lisses (Applications lisses, (iv)).

Enfin $\det A = \pm 1$ sur $O(n)$, puisque $(\det A)^2 = \det({}^tAA) = 1$. Le déterminant étant continu, $SO(n)$ est la trace sur $O(n)$ de l'ouvert $W = \{\det > 0\}$ de $\mathcal M_n(\mathbb R)$, et aussi celle du fermé $\{\det = 1\}$ : il est ouvert et fermé dans $O(n)$. C'est un sous-groupe, puisque $\det(AB) = \det A\det B$.

C'est aussi une sous-variété de dimension $\frac{n(n-1)}2$ : si $\Phi$ redresse $O(n)$ sur un ouvert $U$, sa restriction à l'ouvert $U \cap W$ redresse $SO(n)$, puisque $SO(n) \cap U \cap W = O(n) \cap U \cap W$. La multiplication et l'inversion y sont, comme pour $O(n)$, des restrictions d'applications $C^\infty$ de l'espace ambiant, donc lisses : $SO(n)$ est un groupe de Lie.