Exercice 60

1. Soit $x \in F$. Le nombre $f(x)$ est rationnel, et il reste à voir qu'il ne vaut ni $0$, ni $1$, ni $-1$. En multipliant par $x \neq 0$, on obtient les équivalences suivantes.

• $f(x) = 0$ équivaut à $x^{2} = 1$, c'est-à-dire $x = \pm 1$, ce qui est exclu.

• $f(x) = 1$ équivaut à $x^{2} - x - 1 = 0$. D'après l'exercice 21, une solution rationnelle de cette équation serait un entier divisant $-1$, donc $\pm 1$ ; or $1 - 1 - 1 = -1$ et $1 + 1 - 1 = 1$ ne sont pas nuls.

• $f(x) = -1$ équivaut à $x^{2} + x - 1 = 0$, et l'on conclut de même, puisque $1 + 1 - 1 = 1$ et $1 - 1 - 1 = -1$.

2. Par associativité de la composition, $f^{\circ(n + 1)}$ est aussi égale à $f^{\circ n} \circ f$. La question 1 donne alors $$f^{\circ(n + 1)}(F) = f^{\circ n}\big(f(F)\big) \subset f^{\circ n}(F).$$ Chaque $f^{\circ n}(F)$ est l'image de l'ensemble non vide $F$, donc n'est pas vide. Pour les calculs, on applique trois fois la définition de $f$. $$\boxed{f(2) = \frac{3}{2}, \qquad f^{\circ 2}(2) = \frac{3}{2} - \frac{2}{3} = \frac{5}{6}, \qquad f^{\circ 3}(2) = \frac{5}{6} - \frac{6}{5} = -\frac{11}{30}}$$ Les hauteurs successives sont $H(2) = 3$, puis $5$, $11$ et $41$ : elles augmentent, et c'est ce que la suite va exploiter. On peut d'ailleurs montrer que chaque $f^{\circ n}(F)$ est infini, puisque $f(x) = f(x')$ équivaut à $(x - x')\big(1 + \frac{1}{xx'}\big) = 0$, de sorte que $f$ prend chaque valeur au plus deux fois.

3. Soit $\ell$ un nombre premier qui divise $pq$. Par le lemme d'Euclide, il divise $p$ ou $q$ ; s'il divise $p$ et $p^{2} - q^{2}$, il divise $q^{2} = p^{2} - (p^{2} - q^{2})$, donc $q$, ce qui contredit $p \wedge q = 1$. Le cas où $\ell$ divise $q$ est symétrique. Ainsi $p^{2} - q^{2}$ et $pq$ n'ont aucun facteur premier commun, et leur PGCD, qui n'a aucun diviseur premier, vaut $1$ (théorème 6). Par ailleurs, la réduction au même dénominateur donne $$f(x) = \frac{p}{q} - \frac{q}{p} = \frac{p^{2} - q^{2}}{pq}.$$ Si $p > 0$, c'est la forme irréductible de $f(x)$ ; si $p < 0$, c'est $\frac{q^{2} - p^{2}}{|p|q}$. Dans les deux cas, l'unicité de la forme irréductible (proposition 6) donne la hauteur. $$\boxed{(p^{2} - q^{2}) \wedge pq = 1 \qquad \text{et} \qquad H\big(f(x)\big) = |p^{2} - q^{2}| + |p|\,q}$$

4. On note $a = |p| \geqslant 1$. Si l'on avait $a = q$, l'égalité $p \wedge q = 1$ imposerait $a = q = 1$, donc $x = \pm 1$, ce qui est exclu. Ainsi $|a - q| \geqslant 1$, et $$|p^{2} - q^{2}| = |a - q|\,(a + q) \geqslant a + q = H(x), \qquad |p|\,q \geqslant 1.$$ En ajoutant ces deux inégalités, on obtient la première propriété. $$\boxed{H\big(f(x)\big) \geqslant H(x) + 1}$$ Pour la seconde, on raisonne par récurrence sur $n$. Pour $n = 0$, tout $x \in F$ vérifie $H(x) \geqslant 3$, car $H(x) = 2$ impose $|p| = q = 1$. Si la propriété est vraie au rang $n$, tout $y \in f^{\circ(n + 1)}(F)$ s'écrit $y = f(x)$ avec $x \in f^{\circ n}(F) \subset F$, et $H(y) \geqslant H(x) + 1 \geqslant n + 4$. $$\boxed{\forall n \in \mathbb{N}, \ \forall y \in f^{\circ n}(F), \quad H(y) \geqslant n + 3}$$ Piège. Le dénominateur seul ne croît pas : $f\big(\frac{1}{2}\big) = -\frac{3}{2}$ a le même dénominateur que $\frac{1}{2}$. C'est pourquoi on mesure la taille d'un rationnel par sa hauteur, qui fait intervenir le numérateur, et pourquoi il faut la forme irréductible : sans la question 3, rien n'empêcherait une simplification de faire baisser la hauteur.

5. Supposons qu'un rationnel $y$ appartienne à tous les $f^{\circ n}(F)$. En particulier, $y \in f^{\circ H(y)}(F)$, et la question 4 donne $H(y) \geqslant H(y) + 3$, ce qui est absurde. $$\boxed{\bigcap_{n \in \mathbb{N}} f^{\circ n}(F) = \varnothing}$$ À retenir. On a construit une suite décroissante d'ensembles non vides, et même infinis, dont l'intersection est vide. Cela heurte l'intuition, et cela ne peut pas arriver avec des segments de $\mathbb{R}$ : si $[a_{n}, b_{n}]$ est une suite décroissante de segments non vides, la suite $(a_{n})$ est croissante et majorée par $b_{0}$, donc converge vers un réel $\ell$ (chapitre 7, théorème 8), qui appartient à tous les segments. L'arithmétique fournit ici l'invariant qui croît strictement, la hauteur, et c'est la forme irréductible qui la rend calculable.