Exercice 57

Idée. Pour $X$ fixé, les deux formes linéaires $Y \mapsto {X}^{T}AY$ et $Y \mapsto {Y}^{T}AX$ ont le même noyau. Ce sont les orthogonaux des vecteurs ${A}^{T}X$ et $AX$, qui sont donc colinéaires. Un coefficient de proportionnalité qui ne dépend pas de $X$ donne $A = c{A}^{T}$, et l'on conclut en transposant.

On munit $\mathcal{M}_{n,1}(\mathbb{R})$ du produit scalaire canonique. Le réel ${Y}^{T}AX$, matrice $1 \times 1$, est égal à son transposé ${X}^{T}{A}^{T}Y$, donc $${X}^{T}AY = \langle {A}^{T}X, Y \rangle, \qquad {Y}^{T}AX = \langle AX, Y \rangle.$$ L'hypothèse, appliquée au couple $(X, Y)$ puis au couple $(Y, X)$, donne une équivalence, et pour toute colonne $X$, $${X}^{T}AY = 0 \iff {Y}^{T}AX = 0 \quad\text{pour tout } Y, \qquad\text{c'est-à-dire}\qquad \mathrm{Vect}({A}^{T}X)^{\perp} = \mathrm{Vect}(AX)^{\perp}.$$ En prenant les orthogonaux, par la proposition 11, on obtient $$\mathrm{Vect}({A}^{T}X) = \mathrm{Vect}(AX) \qquad\text{pour toute colonne } X.$$ En particulier, $AX = 0 \iff {A}^{T}X = 0$, et, si ${A}^{T}X \neq 0$, il existe un unique réel $c(X) \neq 0$ tel que $AX = c(X)\,{A}^{T}X$.

Le coefficient est constant. Supposons $A \neq 0$, et soit $X$, $Y$ deux colonnes telles que ${A}^{T}X \neq 0$ et ${A}^{T}Y \neq 0$.

• Si ${A}^{T}X$ et ${A}^{T}Y$ ne sont pas colinéaires, alors ${A}^{T}(X + Y) \neq 0$, et $$c(X)\,{A}^{T}X + c(Y)\,{A}^{T}Y = A(X + Y) = c(X + Y)\,{A}^{T}X + c(X + Y)\,{A}^{T}Y.$$ La famille $({A}^{T}X, {A}^{T}Y)$ étant libre, on identifie : $c(X) = c(X + Y) = c(Y)$.

• Si ${A}^{T}Y = \mu\,{A}^{T}X$, avec $\mu \neq 0$, alors ${A}^{T}(Y - \mu X) = 0$, donc $A(Y - \mu X) = 0$, et $$AY = \mu AX = \mu c(X)\,{A}^{T}X = c(X)\,{A}^{T}Y, \qquad\text{d'où}\qquad c(Y) = c(X).$$

Soit $c$ la valeur commune. On a $AX = c\,{A}^{T}X$ pour tout $X$ tel que ${A}^{T}X \neq 0$, et aussi lorsque ${A}^{T}X = 0$, puisqu'alors $AX = 0$. Ainsi $A = c\,{A}^{T}$, et en transposant, ${A}^{T} = cA$, d'où $A = c^{2}A$. Comme $A \neq 0$, $c^{2} = 1$ : $$\boxed{{A}^{T} = A \quad\text{ou}\quad {A}^{T} = -A}$$ Réciproquement, une matrice symétrique ou antisymétrique vérifie ${Y}^{T}AX = \pm{X}^{T}AY$, et donc l'hypothèse.

Piège. L'hypothèse ne porte que sur l'annulation, et non sur les valeurs : l'erreur la plus répandue est d'en déduire directement ${X}^{T}AY = {Y}^{T}AX$. La matrice suivante, ni symétrique ni antisymétrique, montre que l'hypothèse n'est pas automatique : pour $X = E_{1}$ et $Y = E_{2} - E_{1}$, on a ${X}^{T}AY = 0$ mais ${Y}^{T}AX = -1$ ✓. $$A = \begin{pmatrix} 1 & 1 \\ 0 & 1 \end{pmatrix}$$

À retenir. L'application $(X, Y) \mapsto {X}^{T}AY$ est bilinéaire, et l'on peut définir une « orthogonalité » par ${X}^{T}AY = 0$. L'exercice montre que cette relation n'est symétrique que dans deux cas : pour une forme symétrique, comme un produit scalaire (section 19.2), ou pour une forme antisymétrique, comme le déterminant de deux colonnes de $\mathcal{M}_{2,1}(\mathbb{R})$ (chapitre 17), pour lequel « orthogonal » signifie « colinéaire ».