Opérateurs autoadjoints d'un espace de Hilbert

(i) L'application $u - \lambda\,\mathrm{id}$ est linéaire et continue (Espaces normés, (ii)), et $E_\lambda$ est l'image réciproque du fermé $\{0\}$. Pour $x \in E_\lambda$ et $y \in E_\mu$, $$\lambda \langle x, y \rangle = \langle u(x), y \rangle = \langle x, u(y) \rangle = \mu \langle x, y \rangle,$$ donc $(\lambda - \mu)\langle x, y \rangle = 0$, puis $\langle x, y \rangle = 0$.

(ii) Soit $x \in F^\perp$. Pour $y \in F$, on a $u(y) \in F$, donc $\langle u(x), y \rangle = \langle x, u(y) \rangle = 0$ : $u(x) \in F^\perp$. L'orthogonal est l'intersection des noyaux des formes linéaires $x \mapsto \langle x, a \rangle$, $a \in F$, qui sont continues par l'inégalité de Cauchy-Schwarz (Espaces de Hilbert, (i)) : c'est un sous-espace fermé.

Un sous-espace fermé $G$ d'un espace complet est complet (Espaces normés, (iv)), et la restriction du produit scalaire en est un, qui définit la même norme. La restriction $v$ de $u$ à $G$ est linéaire, à valeurs dans $G$, et vérifie $\|v(x)\| \leqslant |||u|||\,\|x\|$ ; l'égalité $\langle v(x), y \rangle = \langle x, v(y) \rangle$ est celle de $u$.

(iii) Notons $M$ la borne supérieure. Par l'inégalité de Cauchy-Schwarz, $|\langle u(x), x \rangle| \leqslant |||u|||\,\|x\|^2$, donc $M \leqslant |||u|||$ ; par homogénéité, $|\langle u(x), x \rangle| \leqslant M\|x\|^2$ pour tout $x$.

En développant, et grâce à l'autoadjonction, on a pour tous $x, y$ $$\begin{aligned} &\langle u(x + y), x + y \rangle - \langle u(x - y), x - y \rangle \\ &\quad = 2\langle u(x), y \rangle + 2\langle u(y), x \rangle \\ &\quad = 4\langle u(x), y \rangle. \end{aligned}$$ Par l'identité du parallélogramme (Espaces de Hilbert, (i)), il vient $$\begin{aligned} 4\langle u(x), y \rangle &\leqslant M\big(\|x + y\|^2 + \|x - y\|^2\big) \\ &= 2M\big(\|x\|^2 + \|y\|^2\big). \end{aligned}$$

Soit $x$ tel que $\|x\| \leqslant 1$ et $u(x) \neq 0$, et $y = u(x)/\|u(x)\|$. L'inégalité devient $4\|u(x)\| \leqslant 2M(\|x\|^2 + 1) \leqslant 4M$. Ainsi $\|u(x)\| \leqslant M$ pour $\|x\| \leqslant 1$, et $|||u||| \leqslant M$.

(iv) Supposons que $m = R_u(x_0)$ soit le maximum, c'est-à-dire que $\langle u(x), x \rangle \leqslant m\|x\|^2$ pour tout $x$, avec égalité en $x_0$. Posons $w = u(x_0) - m x_0$, et fixons $y \in H$. Pour tout réel $t$, l'expression $\langle u(x_0 + ty), x_0 + ty \rangle - m\|x_0 + ty\|^2$ est négative ; en la développant grâce à l'autoadjonction, on obtient $$2t\,\langle w, y \rangle + t^2 c \leqslant 0,$$ où $c = \langle u(y), y \rangle - m\|y\|^2$.

Pour $t > 0$, en divisant par $t$, $2\langle w, y \rangle \leqslant -tc$. Si $\langle w, y \rangle$ était strictement positif, un $t > 0$ tel que $t|c| < 2\langle w, y \rangle$ donnerait une contradiction ; donc $\langle w, y \rangle \leqslant 0$. De même, avec $t < 0$, $\langle w, y \rangle \geqslant 0$.

Ainsi $\langle w, y \rangle = 0$ pour tout $y$ ; pour $y = w$, il vient $w = 0$, c'est-à-dire $u(x_0) = m x_0$. Pour le minimum, on applique ce qui précède à $-u$, autoadjoint, dont le quotient de Rayleigh est $-R_u$.