Automorphismes du disque et application de Cayley

(i) L'ensemble $\{z : \bar a z \neq 1\}$ est ouvert, comme image réciproque d'un ouvert par une fonction continue, et contient le disque fermé, puisque $|\bar a z| \leqslant |a| < 1$ pour $|z| \leqslant 1$ ; $\varphi_a$ y est holomorphe, comme quotient (Fonctions holomorphes, (ii)).

L'identité. En développant les modules par $|w|^2 = w\bar w$ (Conjugué, module), les termes croisés $-\bar a z - a\bar z$ apparaissent avec le même signe dans les deux carrés, et $$\begin{aligned} &|1 - \bar a z|^2 - |z - a|^2 \\ &\quad = (1 - |a|^2)(1 - |z|^2). \end{aligned}$$ On divise par $|1 - \bar a z|^2$. Pour $z \in \mathbb D$, le membre de droite est strictement positif, donc $|\varphi_a(z)| < 1$ ; pour $|z| = 1$, il est nul, donc $|\varphi_a(z)| = 1$.

La réciproque. Pour $z \in \mathbb D$, $\varphi_{-a}(z) = \frac{z + a}{1 + \bar a z}$ est dans $\mathbb D$, et en multipliant numérateur et dénominateur par $1 + \bar a z$, $$\begin{aligned} \varphi_a\big(\varphi_{-a}(z)\big) &= \frac{(z + a) - a(1 + \bar a z)}{(1 + \bar a z) - \bar a(z + a)} \\ &= \frac{(1 - |a|^2)z}{1 - |a|^2} = z. \end{aligned}$$ En échangeant $a$ et $-a$, $\varphi_{-a} \circ \varphi_a$ est aussi l'identité de $\mathbb D$. La dérivée d'un quotient donne $\varphi_a'$, puis ses valeurs en $0$ et en $a$.

(ii) Une rotation $z \mapsto \lambda z$ est un automorphisme, de réciproque $z \mapsto \bar\lambda z$, et la composée de deux automorphismes en est un : les $\lambda\varphi_a$ sont des automorphismes.

Réciproquement, soit $T$ un automorphisme et $a = T^{-1}(0)$. La composée $S = T \circ \varphi_{-a}$ est un automorphisme, et $S(0) = T(a) = 0$. Le lemme de Schwarz (Lemme de Schwarz, (i)) appliqué à $S$ et à $S^{-1}$, qui fixe aussi $0$, donne $|S(z)| \leqslant |z|$ et $|z| = |S^{-1}(S(z))| \leqslant |S(z)|$.

Ainsi $|S(z)| = |z|$ pour tout $z$, et $S(z) = \lambda z$ avec $|\lambda| = 1$ (même nœud, (ii)). Alors $T = S \circ \varphi_a$, c'est-à-dire $T(z) = \lambda\varphi_a(z)$. Si de plus $T(0) = 0$, alors $-\lambda a = 0$, donc $a = 0$ et $T$ est une rotation.

(iii) Par (ii), $T(z) = \lambda z$, et $T'(0) = \lambda$ est un réel strictement positif de module $1$ : $\lambda = 1$.

(iv) Pour $z = x + iy$, on a $|z + i|^2 - |z - i|^2 = (y + 1)^2 - (y - 1)^2 = 4y$, d'où la formule, en divisant par $|z + i|^2$, non nul sur $\mathbb H$. Par suite, $C$ est holomorphe sur $\mathbb H$ et l'envoie dans $\mathbb D$.

La fonction $K(w) = i\frac{1 + w}{1 - w}$ est holomorphe sur $\mathbb D$, et en multipliant par $1 - \bar w$, $$K(w) = i\,\frac{1 - |w|^2 + w - \bar w}{|1 - w|^2},$$ et, puisque $w - \bar w = 2i\operatorname{Im} w$ est imaginaire pur, $\operatorname{Im} K(w) = \frac{1 - |w|^2}{|1 - w|^2} > 0$. Donc $K$ envoie $\mathbb D$ dans $\mathbb H$. Enfin, en multipliant numérateur et dénominateur par $1 - w$, puis par $z + i$, $$\begin{aligned} C(K(w)) &= \frac{i(1 + w) - i(1 - w)}{i(1 + w) + i(1 - w)} = w, \\ K(C(z)) &= i\,\frac{(z + i) + (z - i)}{(z + i) - (z - i)} = z. \end{aligned}$$