Exercice 54

1. La fonction $f$ est continue de $[0\,,1]$ dans $[0\,,1]$ : elle admet un point fixe $s$ (proposition 14). Montrons par récurrence que $f(u_{n}) = u_{n}$. C'est vrai pour $n = 0$ ; si c'est vrai au rang $n$, alors, puisque $f$ et $g$ commutent, $$f(u_{n+1}) = f\big(g(u_{n})\big) = g\big(f(u_{n})\big) = g(u_{n}) = u_{n+1}.$$

2. Monotone et bornée, la suite $(u_{n})$ converge vers un réel $\ell \in [0\,,1]$ (chapitre 7, théorème 8). Par continuité, le passage à la limite dans $f(u_{n}) = u_{n}$ et dans $u_{n+1} = g(u_{n})$ donne $f(\ell) = \ell$ et $g(\ell) = \ell$ (proposition 8). $\boxed{f(\ell) = g(\ell) = \ell}$

3. Si les différences $u_{n+1} - u_{n}$ étaient toutes de même signe au sens large, la suite serait monotone : il existe donc $n$ tel que $u_{n+1} - u_{n}$ et $u_{n+2} - u_{n+1}$ soient de signes contraires, et leur produit est négatif ou nul. Or, d'après la question 1, $$u_{n+1} - u_{n} = g(u_{n}) - f(u_{n}) \qquad\text{et}\qquad u_{n+2} - u_{n+1} = g(u_{n+1}) - f(u_{n+1}).$$ La fonction continue $g - f$ prend en $u_{n}$ et $u_{n+1}$ des valeurs de signes contraires : elle s'annule entre ces deux points. $$\boxed{\exists c \in [0\,,1],\ f(c) = g(c)}$$

Remarque. Le résultat est faux sans l'hypothèse de commutation : $f = \frac{1}{2}$ et $g = \frac{1}{3}$ sont constantes et ne se croisent pas. L'hypothèse sert à faire de l'ensemble des points fixes de $f$ un ensemble stable par $g$.