Exercice 38

1. Soit $x$, $y \in I$ et $\lambda \in [0\,,1]$. Par convexité de $f$, $f\big((1 - \lambda)x + \lambda y\big) \leqslant (1 - \lambda)f(x) + \lambda f(y)$, et ce dernier réel est dans $J$, qui est un intervalle contenant $f(x)$ et $f(y)$. La croissance de $g$, puis sa convexité, donnent $$g\big(f((1 - \lambda)x + \lambda y)\big) \leqslant g\big((1 - \lambda)f(x) + \lambda f(y)\big) \leqslant (1 - \lambda)g\big(f(x)\big) + \lambda g\big(f(y)\big).$$

$$\boxed{g \circ f \text{ est convexe}}$$ L'hypothèse de croissance est utile : avec $f(x) = x^{2}$ et $g(t) = -t$, convexe car affine, mais décroissante, $g \circ f = -x^{2}$ est concave et non convexe. Ainsi $\mathrm{e}^{f}$ est convexe dès que $f$ l'est, mais pas $\frac{1}{f}$ en général.

2. Soit $h = \max(f, g)$. Avec les mêmes notations, $$f\big((1 - \lambda)x + \lambda y\big) \leqslant (1 - \lambda)f(x) + \lambda f(y) \leqslant (1 - \lambda)h(x) + \lambda h(y),$$ et de même pour $g$ ; le maximum des deux membres de gauche vérifie donc la même inégalité : $\boxed{\max(f, g) \text{ est convexe}}$. En revanche, $\min(f, g)$ et $fg$ ne le sont pas en général : avec $f(x) = x$ et $g(x) = -x$, on obtient $\min(f, g) = -|x|$, qui est concave ; avec $f(x) = x$ et $g(x) = x^{2}$, on obtient $x^{3}$, qui n'est pas convexe sur $\mathbb{R}$. $\boxed{\min(f, g) \text{ et } fg \text{ ne sont pas convexes en général.}}$

3. L'ensemble $f(I)$ est un intervalle, par le théorème des valeurs intermédiaires, et $f^{-1}$ est strictement croissante. Soit $u$, $v \in f(I)$, $x = f^{-1}(u)$, $y = f^{-1}(v)$ et $\lambda \in [0\,,1]$. Par convexité de $f$, $$f\big((1 - \lambda)x + \lambda y\big) \leqslant (1 - \lambda)u + \lambda v,$$ et l'on applique la fonction croissante $f^{-1}$ : $$(1 - \lambda)f^{-1}(u) + \lambda f^{-1}(v) \leqslant f^{-1}\big((1 - \lambda)u + \lambda v\big).$$

$$\boxed{f^{-1} \text{ est concave sur } f(I)}$$ C'est la situation de $\exp$, convexe et croissante, et de $\ln$, concave : la symétrie par rapport à la première bissectrice échange le dessus et le dessous des cordes. Si $f$ était convexe et décroissante, $f^{-1}$ serait convexe, comme le montre $x \mapsto \frac{1}{x}$ sur $]0\,,+\infty[$.