Demi-espace et variétés à bord

(i) Différentielles. Écrivons $A = \Omega \cap \mathbb H^n$, avec $\Omega$ ouvert. Soient $F$ et $G$ deux prolongements de $f$ au voisinage de $a$, définis sur des ouverts $O$ et $O'$. Il existe $\varepsilon > 0$ tel que la boule $B = B_\infty(a, \varepsilon)$ soit contenue dans $\Omega \cap O \cap O'$. Sur l'ouvert $B \cap \mathring{\mathbb H}^n$ de $\mathbb R^n$, $F$ et $G$ coïncident avec $f$, donc leurs différentielles coïncident, la différentielle en un point ne dépendant que des valeurs au voisinage de ce point (Différentielle). Les points $a + \frac1m e_n$, pour $m$ assez grand, sont dans $B \cap \mathring{\mathbb H}^n$ et tendent vers $a$ ; par continuité de $dF$ et de $dG$, $dF(a) = dG(a)$. Les fonctions $\partial_j F$ prolongent $\partial_j f$ au voisinage de $a$ : elles sont de classe $C^\infty$.

Composées. Soit $f : A \to \mathbb R^p$ et $g : A_1 \to \mathbb R^q$ de classe $C^\infty$, avec $f(A) \subset A_1$. Soit $a \in A$, $G$ un prolongement de $g$ sur un ouvert $O_1$ contenant $f(a)$, et $F$ un prolongement de $f$ sur un ouvert $O$ contenant $a$. L'ouvert $O \cap F^{-1}(O_1)$ contient $a$, et $G \circ F$, de classe $C^\infty$ (Classe Cᵏ, (iii)), y coïncide avec $g \circ f$ en tout point de $A$, puisque $F = f$ sur $O \cap A$, à valeurs dans $A_1$. La règle de la chaîne pour $G \circ F$ (Différentielle, (iv)) donne celle de $g \circ f$. Si $\tau$ est un difféomorphisme, $\tau^{-1} \circ \tau$ est l'identité de $A$, et $d(\tau^{-1})(\tau(a)) \circ d\tau(a) = \mathrm{id}$, par le calcul en des points de $\mathring{\mathbb H}^n$ voisins de $a$ et par continuité.

(ii) Points intérieurs. Soit $a \in A \cap \mathring{\mathbb H}^n$. L'ouvert $N = A \cap \mathring{\mathbb H}^n$ de $\mathbb R^n$ contient $a$, et $\tau$ y est de classe $C^\infty$ au sens usuel, de différentielle inversible par (i). Par le théorème d'inversion locale (Inversion locale), un ouvert $N' \subset N$ contenant $a$ a pour image un ouvert de $\mathbb R^n$, qui contient $\tau(a)$ et qui est contenu dans $B \subset \mathbb H^n$. Si l'on avait $\tau_n(a) = 0$, le point $\tau(a) - s\,e_n$, pour $s > 0$ assez petit, appartiendrait à cet ouvert sans appartenir à $\mathbb H^n$. Donc $\tau(a) \in \mathring{\mathbb H}^n$. Le même argument, appliqué à $\tau^{-1}$, et la bijectivité de $\tau$ donnent les deux égalités.

Au bord. Soit $n \geqslant 2$ et $a = (x', 0)$ avec $x' \in A'$. Comme $A$ est un ouvert de $\mathbb H^n$, les points $a + s\,e_j$, pour $j < n$ et $|s|$ petit, sont dans $A \cap \partial\mathbb H^n$, où $\tau_n$ est nulle ; la dérivée partielle $\partial_j\tau_n(a)$, limite des quotients $\frac{\tau_n(a + s\,e_j) - \tau_n(a)}s$ calculés sur un prolongement, est donc nulle. De même, $\partial_n\tau_n(a)$ est la limite, quand $s$ tend vers $0$ par valeurs positives, de $\frac{\tau_n(a + s\,e_n)}s \geqslant 0$ : elle est positive.

La dernière ligne de la matrice de $d\tau(a)$ est donc $(0, \dots, 0, \partial_n\tau_n(a))$, et le développement du déterminant de la transposée selon sa dernière colonne (Comatrice) donne $\det d\tau(a) = \det D\;\partial_n\tau_n(a)$, où $D$ est la matrice des $\partial_j\tau_l(a)$, $j, l < n$. Ce déterminant n'est pas nul, par (i) : $\partial_n\tau_n(a) > 0$ et $\det D \neq 0$. Enfin $\tau'$ est de classe $C^\infty$ sur $A'$, composée de $\iota$, de $\tau$ et de $\pi$, et sa matrice jacobienne en $x'$ est $D$ ; elle envoie $A'$ dans $B'$ par le premier point, bijectivement, de réciproque $\pi \circ \tau^{-1} \circ \iota$, de classe $C^\infty$.

(iii) Si $(U, \varphi)$ et $(V, \psi)$ sont deux cartes en $p$, le changement de carte $\psi \circ \varphi^{-1}$ est un difféomorphisme entre les ouverts $\varphi(U \cap V)$ et $\psi(U \cap V)$ de $\mathbb H^n$, et (ii) montre que $\varphi(p) \in \partial\mathbb H^n$ si et seulement si $\psi(p) \in \partial\mathbb H^n$. Pour chaque carte, $U \cap \operatorname{int} M = \varphi^{-1}(\mathring{\mathbb H}^n)$ est ouvert ; $\operatorname{int} M$, réunion de ces ouverts, est ouvert, et $\partial M$ est fermé. La démonstration du nœud Variétés s'applique telle quelle à la dernière affirmation : elle n'emploie que la composition des applications de classe $C^\infty$, qui est (i), et le caractère local de cette classe, qui vient de la définition.

(iv) L'espace $\partial M$ est séparé, et il a une base au plus dénombrable, formée des traces d'une base de $M$. Pour une carte $(U, \varphi)$, écrivons $\varphi(U) = O \cap \mathbb H^n$ ; par (iii), $\varphi(U \cap \partial M) = O \cap \partial\mathbb H^n$, et $\pi \circ \varphi$ est un homéomorphisme de $U \cap \partial M$ sur l'ouvert $\iota^{-1}(O)$ de $\mathbb R^{n-1}$. Ces cartes recouvrent $\partial M$, et leurs changements de carte sont les applications $\tau'$ de (ii), de classe $C^\infty$ ainsi que leurs réciproques. De même, $\varphi$ envoie $U \cap \operatorname{int} M$ sur l'ouvert $\varphi(U) \cap \mathring{\mathbb H}^n$ de $\mathbb R^n$, et les changements de carte sont les restrictions de ceux de $M$, de classe $C^\infty$ au sens usuel sur ces ouverts.

(v) Chaque $\varphi_t$ est un homéomorphisme de l'ouvert $U_t$ sur l'ouvert $\varphi(U_t) + t\,e_n$ de $\mathbb R^n$, contenu dans $\mathring{\mathbb H}^n$ ; c'est un ouvert de $\mathbb H^n$. Pour $t = 1 - \varphi(p)_n$, le domaine $U_t$ contient $p$ : ces cartes recouvrent $M$. Leurs changements de carte $z \mapsto \psi \circ \varphi^{-1}(z - t\,e_n) + s\,e_n$ sont de classe $C^\infty$, ainsi que leurs réciproques. Aucun point n'est envoyé dans $\partial\mathbb H^n$, et le bord est vide. Enfin les cartes $\varphi_t$ sont compatibles avec l'atlas de $M$, la translation étant un difféomorphisme de $\mathbb R^n$ : la restriction de l'atlas maximal à $\operatorname{int} M = M$ a le même atlas maximal que celui de $M$ (Variétés).