Exercice 44

On munit $\mathcal{M}_{n,1}(\mathbb{R})$ du produit scalaire canonique, et l'on identifie $A$ à l'endomorphisme $X \mapsto AX$.

1. Soit $Y \in \mathcal{M}_{n,1}(\mathbb{R})$. Pour toute colonne $X$, on a $\langle AX, Y \rangle = {X}^{T}{A}^{T}Y = \langle X, {A}^{T}Y \rangle$. Si ${A}^{T}Y = 0$, le vecteur $Y$ est donc orthogonal à tous les $AX$, c'est-à-dire à $\mathrm{Im}\, A$. Réciproquement, si $Y \in (\mathrm{Im}\, A)^{\perp}$, on choisit $X = {A}^{T}Y$, ce qui donne $\lVert {A}^{T}Y \rVert^{2} = 0$, donc ${A}^{T}Y = 0$. $$\boxed{\mathrm{Ker}\,({A}^{T}) = (\mathrm{Im}\, A)^{\perp}}$$

2. Si $AX = 0$, alors ${A}^{T}AX = 0$ : on a $\mathrm{Ker}\, A \subset \mathrm{Ker}\,({A}^{T}A)$. Réciproquement, si ${A}^{T}AX = 0$, alors $$0 = {X}^{T}{A}^{T}AX = {(AX)}^{T}(AX) = \lVert AX \rVert^{2},$$ donc $AX = 0$. Ainsi $$\boxed{\mathrm{Ker}\,({A}^{T}A) = \mathrm{Ker}\, A}$$ On applique ce résultat à ${A}^{T}$, dont la transposée est $A$, et l'on obtient $\mathrm{Ker}\,(A{A}^{T}) = \mathrm{Ker}\,({A}^{T})$. Par le théorème du rang (chapitre 15, théorème 9) et l'égalité $\mathrm{rg}({A}^{T}) = \mathrm{rg}(A)$ (chapitre 16, théorème 6 (iii)), $$\mathrm{rg}(A{A}^{T}) = n - \dim\mathrm{Ker}\,(A{A}^{T}) = n - \dim\mathrm{Ker}\,({A}^{T}) = \mathrm{rg}({A}^{T}) = \mathrm{rg}(A).$$ Or $\mathrm{Im}\,(A{A}^{T}) \subset \mathrm{Im}\, A$, puisque $A{A}^{T}Y = A({A}^{T}Y)$. Les deux sous-espaces ont la même dimension, et ils sont égaux (chapitre 15, théorème 5) : $\boxed{\mathrm{Im}\,(A{A}^{T}) = \mathrm{Im}\, A}$.

3. L'hypothèse $\mathrm{Im}\, A \subset \mathrm{Ker}\, A$ donne $A^{2} = 0$. Soit $X$ tel que $(A + {A}^{T})X = 0$, c'est-à-dire $AX = -{A}^{T}X$. Alors $$\lVert AX \rVert^{2} = \langle AX, -{A}^{T}X \rangle = -{X}^{T}{A}^{T}{A}^{T}X = -{X}^{T}\,{(A^{2})}^{T}X = 0.$$ Donc $AX = 0$, puis ${A}^{T}X = -AX = 0$. Le vecteur $X$ appartient à $\mathrm{Ker}\, A \cap \mathrm{Ker}\,({A}^{T})$, c'est-à-dire, par l'hypothèse et la question 1, à $\mathrm{Im}\, A \cap (\mathrm{Im}\, A)^{\perp}$, qui est réduit à $\{0\}$ (proposition 5 (iv)). La matrice $A + {A}^{T}$ est donc injective, donc inversible (chapitre 16, théorème 3). $$\boxed{\mathrm{Ker}\, A = \mathrm{Im}\, A \implies A + {A}^{T} \in GL_{n}(\mathbb{R})}$$ Pour la matrice suivante, on a $\mathrm{Ker}\, A = \mathrm{Im}\, A = \mathrm{Vect}(E_{1})$, et $A + {A}^{T}$ est bien inversible ✓ : $$A = \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix}, \qquad A + {A}^{T} = \begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix}.$$

Piège. L'hypothèse $A^{2} = 0$ ne suffit pas : pour $n = 3$ et $A = E_{12}$, on a $A^{2} = 0$, mais $A + {A}^{T} = E_{12} + E_{21}$ a une troisième colonne nulle. Ici $\mathrm{Im}\, A = \mathrm{Vect}(E_{1})$ est strictement inclus dans $\mathrm{Ker}\, A = \mathrm{Vect}(E_{1}, E_{3})$, et le vecteur $E_{3}$, qui appartient à $\mathrm{Ker}\, A \cap \mathrm{Ker}\,({A}^{T})$, n'est pas dans $\mathrm{Im}\, A$. Notons aussi que l'hypothèse impose, par le théorème du rang, $n = 2\mathrm{rg}(A)$ : $n$ est pair.