Exercice 45

On munit $\mathcal{M}_{n,1}(\mathbb{R})$ du produit scalaire canonique.

1. L'ensemble $F = \mathrm{Im}\, A = \{AX \mid X \in \mathcal{M}_{p,1}(\mathbb{R})\}$ est un sous-espace de $\mathcal{M}_{n,1}(\mathbb{R})$, de dimension finie $\mathrm{rg} A = p$. Par le théorème 7, la borne inférieure des $\lVert Y - B \rVert$, pour $Y \in F$, est atteinte en un unique $Y_{0} = p_{F}(B)$. Par le théorème du rang, $\dim\mathrm{Ker}\, A = p - \mathrm{rg} A = 0$ : l'application $X \mapsto AX$ est injective, et il existe un unique $X_{0}$ tel que $AX_{0} = Y_{0}$. Ce $X_{0}$ convient ; si $X_{1}$ convient aussi, $AX_{1}$ réalise le minimum sur $F$, donc $AX_{1} = Y_{0} = AX_{0}$, et $X_{1} = X_{0}$ par injectivité. $$\boxed{\text{il existe un unique } X_{0} \text{ réalisant } \lVert AX_{0} - B \rVert = d(B, \mathrm{Im}\, A)}$$

2. La démonstration de la question 1 de l'exercice 44 n'utilise pas que $A$ est carrée : pour $A \in \mathcal{M}_{n,p}(\mathbb{R})$, on a encore $(\mathrm{Im}\, A)^{\perp} = \mathrm{Ker}\,({A}^{T})$. Par la proposition 10 (ii), $AX_{0} = p_{F}(B)$ équivaut à $B - AX_{0} \in F^{\perp}$, donc à $${A}^{T}(B - AX_{0}) = 0, \qquad\text{soit}\qquad \boxed{{A}^{T}AX_{0} = {A}^{T}B}$$ Ce sont les équations normales de la méthode du cours. La matrice ${A}^{T}A \in \mathcal{M}_{p}(\mathbb{R})$ est inversible : la question 2 de l'exercice 44, dont la démonstration vaut aussi pour une matrice rectangulaire, donne $\mathrm{Ker}\,({A}^{T}A) = \mathrm{Ker}\, A = \{0\}$. Le système a donc une unique solution, qui est $X_{0}$.

3. La quantité à minimiser est $\lVert AX - B \rVert^{2}$, avec $$A = \begin{pmatrix} 1 & 1 \\ 1 & -1 \\ 2 & 1 \end{pmatrix}, \qquad B = \begin{pmatrix} 1 \\ 0 \\ -2 \end{pmatrix}, \qquad X = \begin{pmatrix} x \\ y \end{pmatrix}.$$ Les deux colonnes de $A$ ne sont pas colinéaires, donc $\mathrm{rg} A = 2$. On calcule $${A}^{T}A = \begin{pmatrix} 6 & 2 \\ 2 & 3 \end{pmatrix}, \qquad {A}^{T}B = \begin{pmatrix} -3 \\ -1 \end{pmatrix}, \qquad \left\{ \begin{array}{l} 6x + 2y = -3 \\ 2x + 3y = -1 \end{array} \right.$$ Le déterminant du système vaut $14$, et l'on trouve $X_{0} = \big(-\frac{1}{2}, 0\big)$. Le résidu $R = B - AX_{0} = \big(\frac{3}{2}, \frac{1}{2}, -1\big)$ est orthogonal aux deux colonnes de $A$, puisque $\frac{3}{2} + \frac{1}{2} - 2 = 0$ et $\frac{3}{2} - \frac{1}{2} - 1 = 0$ ✓. Le minimum vaut $\lVert R \rVert^{2}$ : $$\boxed{\inf_{(x, y) \in \mathbb{R}^{2}} \big((x + y - 1)^{2} + (x - y)^{2} + (2x + y + 2)^{2}\big) = \frac{9}{4} + \frac{1}{4} + 1 = \frac{7}{2}, \quad \text{atteint en } \Big(-\frac{1}{2}, 0\Big)}$$ On retrouve la même valeur en remplaçant directement : $\big(-\frac{3}{2}\big)^{2} + \big(-\frac{1}{2}\big)^{2} + 1^{2} = \frac{7}{2}$ ✓. Le système $AX = B$ de trois équations à deux inconnues n'a pas de solution ; $X_{0}$ est celle qui « s'en approche le plus » au sens des moindres carrés.

À retenir. La proposition 14 du cours est le cas particulier où $A$ a pour colonnes $(x_{i})$ et $(1, \dots, 1)$, et où $X = (a, b)$. L'hypothèse « abscisses non toutes égales » y est exactement l'hypothèse $\mathrm{rg} A = 2$.