Exercice 46

1. Soit $r = \mathrm{rg} B$. Par le théorème 6 du chapitre 16, $B = PJ_{r}Q$, avec $P$ et $Q$ inversibles. On pose $A' = P^{-1}AQ^{-1}$, de sorte que $A + tB = P(A' + tJ_{r})Q$, et $$\det(A + tB) = \det(P)\det(Q)\det(A' + tJ_{r}).$$ Les colonnes de $A' + tJ_{r}$ sont $A'_{j} + te_{j}$ pour $j \leqslant r$, et $A'_{j}$ pour $j > r$. Par linéarité par rapport à chacune des $r$ premières colonnes, $\det(A' + tJ_{r})$ est une somme de $2^{r}$ termes, chacun de la forme $t^{k}$ multiplié par un déterminant indépendant de $t$, avec $k \leqslant r$. $$\boxed{t \mapsto \det(A + tB) \text{ est polynomiale de degré au plus } \mathrm{rg} B}$$

2. Par la question 1, $\det(A + tB) = d + ct$ pour tout réel $t$, avec $d = \det A$ (valeur en $t = 0$) et $c$ réel. Par le théorème 6 (i), $$\det\big((A + B)(A - B)\big) = \det(A + B)\det(A - B) = (d + c)(d - c) = d^{2} - c^{2}.$$

$$\boxed{\det\big((A + B)(A - B)\big) \leqslant (\det A)^{2}}$$ Piège. Pour $\mathrm{rg} B = 2$, l'inégalité peut être fausse : avec $n = 2$, $A = I_{2}$ et $B = 2I_{2}$, on trouve $\det\big((A + B)(A - B)\big) = \det(-3I_{2}) = 9 > 1$. C'est le degré au plus $1$ qui produit le produit $(d + c)(d - c)$.