Exercice 101

1. Soit $s \geqslant 0$. Si $s = 0$, le majorant vaut $1$, et l'inégalité est évidente. Si $s > 0$, la fonction $x \mapsto \mathrm{e}^{sx}$ est strictement croissante, et les événements $\big(\frac{S_{n}}{n} \geqslant a\big)$ et $\big(\mathrm{e}^{sS_{n}} \geqslant \mathrm{e}^{nsa}\big)$ sont égaux. L'inégalité de Markov, appliquée à la variable positive $\mathrm{e}^{sS_{n}}$, donne $$\mathrm{P}\Big(\frac{S_{n}}{n} \geqslant a\Big) \leqslant \mathrm{e}^{-nsa}\,\mathrm{E}\big(\mathrm{e}^{sS_{n}}\big).$$ La formule de transfert (théorème 10) et la formule du binôme donnent $$\mathrm{E}\big(\mathrm{e}^{sS_{n}}\big) = \sum_{k=0}^{n} \mathrm{e}^{sk}\binom{n}{k}p^{k}(1 - p)^{n-k} = \sum_{k=0}^{n} \binom{n}{k}\big(p\,\mathrm{e}^{s}\big)^{k}(1 - p)^{n-k} = \big(1 - p + p\,\mathrm{e}^{s}\big)^{n},$$

Piège. L'hypothèse $s \geqslant 0$ est indispensable : pour $s < 0$, l'exponentielle est décroissante et l'inclusion change de sens. Pour $n = 10$, $p = \frac{1}{2}$ et $a = \frac{1}{4}$, l'énoncé étendu à $s < 0$ donnerait un majorant d'environ $0{,}27$, alors que $\mathrm{P}(S_{10} \geqslant 2{,}5) \approx 0{,}945$ ✓.

2. Minimiser le majorant revient à minimiser son logarithme divisé par $n$, $$h(s) = -sa + \ln\big(1 - p + p\,\mathrm{e}^{s}\big), \qquad h'(s) = -a + \frac{p\,\mathrm{e}^{s}}{1 - p + p\,\mathrm{e}^{s}} = -a + 1 - \frac{1 - p}{1 - p + p\,\mathrm{e}^{s}}.$$ La fonction $h'$ est strictement croissante, $h'(0) = p - a < 0$, et $h'(s)$ tend vers $1 - a > 0$ en $+\infty$. Elle s'annule en un unique point $s^{*}$, défini par $p\,\mathrm{e}^{s^{*}}(1 - a) = a(1 - p)$ : $$\mathrm{e}^{s^{*}} = \frac{a(1 - p)}{p(1 - a)} > 1,$$ puisque $a(1 - p) - p(1 - a) = a - p > 0$. La fonction $h$ décroît sur $[0\,,s^{*}]$ et croît ensuite : son minimum sur $\mathbb{R}_{+}$ est $h(s^{*})$. Or $1 - p + p\,\mathrm{e}^{s^{*}} = (1 - p)\big(1 + \frac{a}{1 - a}\big) = \frac{1 - p}{1 - a}$, d'où $$h(s^{*}) = -a\ln\frac{a(1 - p)}{p(1 - a)} + \ln\frac{1 - p}{1 - a} = -a\ln\frac{a}{p} - (1 - a)\ln\frac{1 - a}{1 - p} = -D(a, p).$$

3. Pour $t \in [q\,,r]$, la décomposition en éléments simples (chapitre 13) donne $$\frac{r - t}{t(1 - t)} = \frac{r}{t} + \frac{r - 1}{1 - t},$$ ce que l'on vérifie en réduisant au même dénominateur : $r(1 - t) + (r - 1)t = r - t$. Comme $0 < q \leqslant t \leqslant r < 1$, $$\int_{q}^{r} \frac{r - t}{t(1 - t)}\,\mathrm{d} t = r\ln\frac{r}{q} + (r - 1)\big[-\ln(1 - t)\big]_{q}^{r} = r\ln\frac{r}{q} + (1 - r)\ln\frac{1 - r}{1 - q},$$

$$\boxed{D(r, q) = \int_{q}^{r} \frac{r - t}{t(1 - t)}\,\mathrm{d} t}$$ Pour $t \in [q\,,r]$, on a $0 < t(1 - t) \leqslant \frac{1}{4}$ et $r - t \geqslant 0$, donc $\frac{r - t}{t(1 - t)} \geqslant 4(r - t)$. Par croissance de l'intégrale (chapitre 18), les bornes étant dans l'ordre croissant, $$\boxed{D(r, q) \geqslant 4\int_{q}^{r} (r - t)\,\mathrm{d} t = 2(r - q)^{2}}$$

4. Soit $\varepsilon > 0$ et $a = p + \varepsilon$. Montrons d'abord que $\mathrm{P}\big(\frac{S_{n}}{n} - p \geqslant \varepsilon\big) \leqslant \mathrm{e}^{-2n\varepsilon^{2}}$.

• Si $a > 1$, l'événement est impossible, puisque $S_{n} \leqslant n$.

• Si $a < 1$, les questions 2 et 3, avec $r = a$ et $q = p$, donnent $\mathrm{e}^{-nD(a, p)} \leqslant \mathrm{e}^{-2n\varepsilon^{2}}$.

• Si $a = 1$, l'événement est $(S_{n} = n)$, de probabilité $p^{n} = \mathrm{e}^{-n\ln(1/p)}$, et le calcul de la question 3 avec $r = 1$ s'applique encore : $\ln\frac{1}{p} = \int_{p}^{1} \frac{\mathrm{d} t}{t} \geqslant \int_{p}^{1} 4(1 - t)\,\mathrm{d} t = 2(1 - p)^{2}$, puisque $\frac{1}{t} = \frac{1 - t}{t(1 - t)} \geqslant 4(1 - t)$.

Pour l'autre côté, la variable $n - S_{n}$ suit la loi $\mathcal{B}(n,1 - p)$, puisque $$\mathrm{P}(n - S_{n} = k) = \mathrm{P}(S_{n} = n - k) = \binom{n}{k}(1 - p)^{k}p^{n-k}.$$ Le résultat précédent, qui ne dépend que de la loi, appliqué à $n - S_{n}$ et au paramètre $1 - p$, donne $$\mathrm{P}\Big(\frac{S_{n}}{n} - p \leqslant -\varepsilon\Big) = \mathrm{P}\Big(\frac{n - S_{n}}{n} - (1 - p) \geqslant \varepsilon\Big) \leqslant \mathrm{e}^{-2n\varepsilon^{2}}.$$ L'événement $\big(\big|\frac{S_{n}}{n} - p\big| \geqslant \varepsilon\big)$ est la réunion des deux, et la sous-additivité conclut : $$\boxed{\mathrm{P}\Big(\Big|\frac{S_{n}}{n} - p\Big| \geqslant \varepsilon\Big) \leqslant 2\,\mathrm{e}^{-2n\varepsilon^{2}}}$$ Pour $p = \frac{1}{2}$, c'est exactement la proposition 24, obtenue ici sans la majoration du cosinus hyperbolique, et le résultat vaut maintenant pour tout $p$. La forme intermédiaire $\mathrm{e}^{-nD(a, p)}$ est même bien meilleure loin de $\frac{1}{2}$, où $t(1 - t)$ est petit devant $\frac{1}{4}$. Pour $n = 1\,000$, $p = 0{,}1$ et $\varepsilon = 0{,}05$, la probabilité exacte vaut environ $4{,}5 \times 10^{-7}$ ; la somme des deux majorants $\mathrm{e}^{-nD}$ vaut environ $4{,}9 \times 10^{-6}$, la borne $2\,\mathrm{e}^{-2n\varepsilon^{2}}$ environ $0{,}013$, et la borne $\frac{p(1 - p)}{n\varepsilon^{2}}$ du théorème 16 vaut $0{,}036$ ✓.

À retenir. La méthode est celle de la proposition 24 : l'inégalité de Markov appliquée à $\mathrm{e}^{sS_{n}}$, puis l'optimisation en $s$. Le choix de l'exponentielle transforme la somme de variables indépendantes en produit, dont l'espérance se calcule par la proposition 20 ou, comme ici, par la formule du binôme.