Exercice 64

Idée. Dans la formule $\det A = \sum_{\sigma} \varepsilon(\sigma)\prod_{j} a_{\sigma(j)j}$, un terme associé à $\sigma \neq \mathrm{id}$ fait intervenir les coefficients le long d'un cycle de $\sigma$. La troisième condition, appliquée de proche en proche, et la deuxième montrent qu'un tel terme est nul : il ne reste que le produit des coefficients diagonaux.

Soit $\sigma \neq \mathrm{id}$, et supposons $\prod_{j} a_{\sigma(j)j} \neq 0$. Par le théorème 1, $\sigma$ possède un cycle $(j_{1}\ j_{2}\ \cdots\ j_{p})$ de longueur $p \geqslant 2$, avec $\sigma(j_{k}) = j_{k + 1}$ pour $k < p$ et $\sigma(j_{p}) = j_{1}$. Les facteurs d'indices $j = j_{1}$, …, $j_{p}$ sont non nuls : $$a_{j_{2}j_{1}} \neq 0, \quad a_{j_{3}j_{2}} \neq 0, \quad \dots, \quad a_{j_{p}j_{p - 1}} \neq 0, \quad a_{j_{1}j_{p}} \neq 0.$$ Montrons par récurrence sur $k \in [\![2\,;p]\!]$ que $a_{j_{k}j_{1}} \neq 0$. C'est vrai pour $k = 2$. Si $a_{j_{k}j_{1}} \neq 0$ et $k < p$, alors $a_{j_{k + 1}j_{k}} \neq 0$, et la troisième condition, appliquée au triplet $(j_{k + 1}, j_{k}, j_{1})$, donne $a_{j_{k + 1}j_{1}} \neq 0$. Pour $k = p$, on obtient $a_{j_{p}j_{1}} \neq 0$. Mais $a_{j_{1}j_{p}} \neq 0$, avec $j_{1} \neq j_{p}$ : c'est contraire à la deuxième condition.

Ainsi, tous les termes associés à $\sigma \neq \mathrm{id}$ sont nuls, et $$\det A = \prod_{i = 1}^{n} a_{ii} \neq 0, \qquad \text{d'où} \qquad \boxed{A \text{ est inversible, et } \det A = a_{11}a_{22}\cdots a_{nn}}$$ Par exemple, la matrice triangulaire ci-dessous vérifie les trois conditions, puisque tous ses coefficients situés au-dessus de la diagonale sont non nuls, et l'on retrouve la proposition 11 (i) : $$\begin{vmatrix} 1 & 2 & 3 \\ 0 & 4 & 5 \\ 0 & 0 & 6 \end{vmatrix} = 1 \times 4 \times 6 = 24.$$

À retenir. La relation « $i \prec j$ si $i \neq j$ et $a_{ij} \neq 0$ » est un ordre strict sur $[\![1\,;n]\!]$ : les conditions 2 et 3 en sont l'antisymétrie et la transitivité. Si l'on renumérote les indices selon un ordre total qui prolonge $\prec$, la matrice devient triangulaire supérieure. L'exercice généralise donc le calcul du déterminant d'une matrice triangulaire, dont la démonstration dans le cours suit le même chemin.