Exercice 51

1. Le théorème 8 donne $A\,{\operatorname{Com}(A)}^{T} = \det(A)\,I_{n}$. On passe au déterminant, avec le théorème 6 (i) et (iv) : $$\det(A)\det\big(\operatorname{Com}(A)\big) = \det\big(\det(A)\,I_{n}\big) = (\det A)^{n}.$$ Si $A$ est inversible, on divise par $\det A \neq 0$. Si $A$ n'est pas inversible, $\det A = 0$, et il s'agit de montrer que $\operatorname{Com}(A)$ n'est pas inversible. Sinon, en multipliant à droite l'égalité $A\,{\operatorname{Com}(A)}^{T} = 0$ par l'inverse de ${\operatorname{Com}(A)}^{T}$, on obtiendrait $A = 0$, dont tous les mineurs sont nuls, puisque $n - 1 \geqslant 1$ : on aurait $\operatorname{Com}(A) = 0$, ce qui est absurde. $$\boxed{\det\big(\operatorname{Com}(A)\big) = (\det A)^{n - 1}}$$ Piège. Le cas non inversible ne se déduit pas du premier par division, puisqu'on ne peut pas diviser par $\det A = 0$. Il faut un argument propre, et c'est là que sert l'hypothèse $n \geqslant 2$ : elle garantit que $\operatorname{Com}(0) = 0$.

2. Si $\mathrm{rg} A = n$, alors $\det A \neq 0$, donc $\det\operatorname{Com}(A) \neq 0$ par la question 1 : $\operatorname{Com}(A)$ est inversible, de rang $n$. Si $\mathrm{rg} A \leqslant n - 2$, chaque mineur $\Delta_{ij}$ est le déterminant d'une matrice carrée d'ordre $n - 1$ extraite de $A$. Par le théorème 7 du chapitre 16, son rang est au plus $\mathrm{rg} A < n - 1$ : elle n'est pas inversible, et $\Delta_{ij} = 0$ par le théorème 6 (ii). $$\boxed{\mathrm{rg} A = n \implies \mathrm{rg}\operatorname{Com}(A) = n, \qquad \mathrm{rg} A \leqslant n - 2 \implies \operatorname{Com}(A) = 0}$$

3. Si $\mathrm{rg} A = n - 1$, le théorème 7 du chapitre 16 fournit une matrice carrée inversible d'ordre $n - 1$ extraite de $A$. Elle s'obtient en supprimant une ligne $i$ et une colonne $j$, donc son déterminant est $\Delta_{ij} \neq 0$, et $C_{ij} \neq 0$ : $\operatorname{Com}(A) \neq 0$.

Comme $\det A = 0$, le théorème 8 donne $A\,{\operatorname{Com}(A)}^{T} = 0$ : chaque colonne de ${\operatorname{Com}(A)}^{T}$ appartient à $\mathrm{Ker}\, A$, donc $\mathrm{Im}\,{\operatorname{Com}(A)}^{T} \subset \mathrm{Ker}\, A$. Par le théorème du rang, $\dim\mathrm{Ker}\, A = n - (n - 1) = 1$. Ainsi $\mathrm{rg}{\operatorname{Com}(A)}^{T} \leqslant 1$, et ce rang vaut au moins $1$ puisque $\operatorname{Com}(A) \neq 0$. Le rang d'une matrice est celui de sa transposée (théorème 6 du chapitre 16). $$\boxed{\mathrm{rg} A = n - 1 \implies \mathrm{rg}\operatorname{Com}(A) = 1}$$

4. Soit $A$ une solution. Si $\mathrm{rg} A = n - 1$, on aurait $\mathrm{rg} A = \mathrm{rg}\operatorname{Com}(A) = 1$, donc $n = 2$, exclu. Si $\mathrm{rg} A \leqslant n - 2$, alors $A = \operatorname{Com}(A) = 0$. Il reste le cas $\mathrm{rg} A = n$. Le théorème 8 s'écrit alors $A{A}^{T} = \det(A)\,I_{n}$. Le coefficient diagonal d'indice $(i, i)$ de $A{A}^{T}$ est $\sum_{j} a_{ij}^{2}$, strictement positif puisque la $i$-ième ligne de la matrice inversible $A$ n'est pas nulle : donc $\det A > 0$. En passant au déterminant, $(\det A)^{2} = (\det A)^{n}$, soit $(\det A)^{n - 2} = 1$, et, comme $\det A > 0$, $\det A = 1$. Ainsi $A{A}^{T} = I_{n}$ et $\det A = 1$.

Réciproquement, supposons $A{A}^{T} = I_{n}$ et $\det A = 1$. Alors $A^{-1} = {A}^{T}$, et le théorème 8 donne $${\operatorname{Com}(A)}^{T} = \det(A)\,A^{-1} = {A}^{T}, \qquad \text{donc} \qquad \operatorname{Com}(A) = A.$$ La matrice nulle est aussi solution. $$\boxed{\operatorname{Com}(A) = A \iff A = 0 \quad \text{ou} \quad \big(A{A}^{T} = I_{n} \text{ et } \det A = 1\big)}$$ Pour $n = 3$, la matrice $I_{3}$ est solution, ainsi que, pour tout réel $\theta$, la matrice dont les colonnes sont $(\cos\theta, \sin\theta, 0)$, $(-\sin\theta, \cos\theta, 0)$ et $(0, 0, 1)$ : c'est la matrice de la rotation d'angle $\theta$ autour de l'axe $\mathbb{R} e_{3}$. En revanche, $\mathrm{diag}(1, 1, -1)$ vérifie $A{A}^{T} = I_{3}$ mais a pour comatrice son opposée.

À retenir. Le rang de la comatrice ne prend que trois valeurs, $n$, $1$ ou $0$, selon que $\mathrm{rg} A$ vaut $n$, $n - 1$ ou moins. Les solutions inversibles de la dernière question sont les matrices que le chapitre 19 appellera orthogonales de déterminant $1$ : ce sont les matrices des rotations.