ATLAS Ouvrir dans l'atlas →

Proposition 1Chaînes de Markov

Ruine du joueur

Soient N⩾1N \geqslant 1 un entier, x∈{0,…,N}x \in \{0, \dots, N\}, p∈ ]0,1[p \in \,]0, 1[, q=1−pq = 1 - p, et (εk)k⩾1(\varepsilon_k)_{k \geqslant 1} des variables indépendantes valant 11 avec probabilité pp et −1-1 avec probabilité qq. La fortune d'un joueur qui part de xx et gagne ou perd une unité à chaque partie est Sn=x+ε1+⋯+εn,S_n = x + \varepsilon_1 + \cdots + \varepsilon_n, et T=inf⁡{n⩾0:Sn∈{0,N}}T = \inf\{n \geqslant 0 : S_n \in \{0, N\}\} est l'instant où il est ruiné ou atteint son objectif NN. On note ℱn=σ(ε1,…,εn)\mathcal F_n = \sigma(\varepsilon_1, \dots, \varepsilon_n), ℱ0\mathcal F_0 étant la tribu triviale.

Énoncé

(i) La suite Xn=Smin⁡(n,T)X_n = S_{\min(n, T)} est une chaîne issue de xx sur {0,…,N}\{0, \dots, N\}, de matrice Q(y,y+1)=pQ(y, y + 1) = p et Q(y,y−1)=qQ(y, y - 1) = q pour 0<y<N0 < y < N, et Q(0,0)=Q(N,N)=1Q(0, 0) = Q(N, N) = 1.

(ii) TT est un temps d'arrêt pour (ℱn)(\mathcal F_n), et E[T]<+∞E[T] < +\infty ; en particulier T<+∞T < +\infty presque sûrement.

(iii) Si p=12p = \frac12, P(ST=N)=xNP(S_T = N) = \frac xN et E[T]=x(N−x)E[T] = x(N - x).

(iv) Si p≠12p \neq \frac12, avec r=q/pr = q/p, P(ST=N)=1−rx1−rN,E[T]=x−N P(ST=N)q−p.\begin{aligned} P(S_T = N) &= \frac{1 - r^x}{1 - r^N}, \\ E[T] &= \frac{x - N\,P(S_T = N)}{q - p}. \end{aligned}

Démonstration

(i) Soient x0=x,x1,…,xnx_0 = x, x_1, \dots, x_n tels que A={X0=x0,…,Xn=xn}A = \{X_0 = x_0, \dots, X_n = x_n\} soit de probabilité non nulle ; c'est un événement de ℱn\mathcal F_n. Si xn∈{0,N}x_n \in \{0, N\}, alors T⩽nT \leqslant n sur AA et Xn+1=xnX_{n+1} = x_n. Sinon T>nT > n sur AA, et Xn+1=xn+εn+1X_{n+1} = x_n + \varepsilon_{n+1}, où εn+1\varepsilon_{n+1} est indépendante de ℱn\mathcal F_n par regroupement (Indépendance, (ii)). Dans les deux cas, P(Xn+1=y∣A)=Q(xn,y)P(X_{n+1} = y \mid A) = Q(x_n, y), et l'on conclut par la forme conditionnelle (Chaînes de Markov, (i)).

(ii) {T=n}={S0,…,Sn−1∉{0,N}, Sn∈{0,N}}∈ℱn\{T = n\} = \{S_0, \dots, S_{n-1} \notin \{0, N\},\ S_n \in \{0, N\}\} \in \mathcal F_n. Si x∈{0,N}x \in \{0, N\}, alors T=0T = 0 et il n'y a rien à démontrer. Si 0<x<N0 < x < N, sur l'événement {T>jN}\{T > jN\}, qui appartient à ℱjN\mathcal F_{jN}, la fortune vaut au moins 11 à l'instant jNjN ; si les NN parties suivantes sont gagnées, elle atteint NN avant l'instant (j+1)N(j + 1)N. Ces NN parties étant indépendantes de ℱjN\mathcal F_{jN}, P(T>(j+1)N)⩽(1−pN) P(T>jN),\begin{aligned} &P(T > (j + 1)N) \\ &\leqslant (1 - p^N)\,P(T > jN), \end{aligned} d'où P(T>jN)⩽(1−pN)jP(T > jN) \leqslant (1 - p^N)^j. Comme T=∑k⩾01{T>k}T = \sum_{k \geqslant 0}\mathbf 1_{\{T > k\}}, la convergence monotone (Convergence monotone) donne, en majorant chacun des NN termes P(T>k)P(T > k), jN⩽k<(j+1)NjN \leqslant k < (j + 1)N, par P(T>jN)P(T > jN), E[T]=∑k⩾0P(T>k)⩽N∑j⩾0(1−pN)j=NpN.\begin{aligned} E[T] &= \sum_{k \geqslant 0} P(T > k) \\ &\leqslant N\sum_{j \geqslant 0}(1 - p^N)^j = \frac{N}{p^N}. \end{aligned}

(iii) Stratégie. Pour chaque martingale (Mn)(M_n) ci-dessous, min⁡(T,n)\min(T, n) est un temps d'arrêt borné par nn, car {min⁡(T,n)=n}={T⩽n−1}c∈ℱn\{\min(T, n) = n\} = \{T \leqslant n - 1\}^c \in \mathcal F_n, et l'arrêt borné (Martingales, (iii)) donne E[Mmin⁡(T,n)]=E[M0]E[M_{\min(T, n)}] = E[M_0] ; on fait ensuite tendre nn vers l'infini.

La suite SnS_n est une martingale (Martingales, (i), première assertion, la constante xx ne changeant rien). Comme 0⩽Smin⁡(T,n)⩽N0 \leqslant S_{\min(T, n)} \leqslant N et que Smin⁡(T,n)→STS_{\min(T, n)} \to S_T presque sûrement, la convergence dominée (Convergence dominée, (i)) donne E[ST]=xE[S_T] = x. Or ST∈{0,N}S_T \in \{0, N\}, donc N P(ST=N)=xN\,P(S_T = N) = x.

La suite Sn2−nS_n^2 - n est aussi une martingale : SnS_n étant bornée par ∣x∣+n|x| + n et ℱn\mathcal F_n-mesurable, et εn+1\varepsilon_{n+1} indépendante de ℱn\mathcal F_n (Espérance conditionnelle, (iv)), E[Sn+12∣ℱn]=Sn2+2SnE[εn+1]+E[εn+12]=Sn2+1.\begin{aligned} &E[S_{n+1}^2 \mid \mathcal F_n] \\ &= S_n^2 + 2S_nE[\varepsilon_{n+1}] + E[\varepsilon_{n+1}^2] = S_n^2 + 1. \end{aligned} Donc E[Smin⁡(T,n)2]=x2+E[min⁡(T,n)]E[S_{\min(T, n)}^2] = x^2 + E[\min(T, n)]. Quand n→∞n \to \infty, le premier membre tend vers E[ST2]=N2⋅xN=NxE[S_T^2] = N^2\cdot\frac xN = Nx par convergence dominée, le second vers x2+E[T]x^2 + E[T] par convergence monotone, d'où E[T]=x(N−x)E[T] = x(N - x).

(iv) De même, rSnr^{S_n} est une martingale, puisque E[rε]=p qp+q pq=1E[r^{\varepsilon}] = p\,\frac qp + q\,\frac pq = 1 et que rSnr^{S_n} est bornée et ℱn\mathcal F_n-mesurable ; et 0<rSmin⁡(T,n)⩽max⁡(1,rN)0 < r^{S_{\min(T, n)}} \leqslant \max(1, r^N). Avec h=P(ST=N)h = P(S_T = N), l'arrêt borné et la convergence dominée donnent h rN+(1−h)=rx,h\,r^N + (1 - h) = r^x, d'où la valeur de hh, puisque r≠1r \neq 1. Enfin Sn−n(p−q)S_n - n(p - q) est une martingale, et E[ST]−(p−q)E[T]=xE[S_T] - (p - q)E[T] = x, soit Nh−(p−q)E[T]=xNh - (p - q)E[T] = x.

□
Remarque

Pour N=10N = 10 et x=3x = 3, le joueur d'un jeu équitable atteint son objectif avec probabilité 0,30{,}3, après 2121 parties en moyenne. Avec une probabilité de gain de 0,450{,}45 au lieu de 0,50{,}5 à chaque partie, la probabilité tombe à 0,1280{,}128 et la durée moyenne à 17,1717{,}17 : un léger biais suffit à diviser ses chances par plus de deux.

x 1 2 3 4 5 6 7 8 9 10 0,5 1 0,3 0,128 p = 1/2 p = 0,45
La probabilité P(ST=N)P(S_T = N) d'atteindre N=10N = 10 en fonction de la fortune initiale xx : en bleu pour un jeu équitable, où elle vaut x10\frac x{10}, en rouge pour p=0,45p = 0{,}45. La courbe rouge reste très en dessous de la droite, sauf tout près de l'objectif ; au point x=3x = 3, marqué, les deux valeurs sont 0,30{,}3 et 0,1280{,}128.
Remarque

La fonction h(y)=P(ST=N)h(y) = P(S_T = N), vue comme fonction de la fortune initiale yy, vérifie h(y)=p h(y+1)+q h(y−1)h(y) = p\,h(y + 1) + q\,h(y - 1) pour 0<y<N0 < y < N, avec h(0)=0h(0) = 0 et h(N)=1h(N) = 1 : elle est harmonique pour la chaîne de (i), au sens du nœud Propriété de Markov. Les martingales employées ci-dessus sont les suites h(Xn)h(X_n) et leurs analogues. Pour cette chaîne, les états 00 et NN forment chacun une classe fermée récurrente, et les autres sont transients, puisqu'ils mènent à 00 sans que 00 mène à eux (Récurrence et transience, (iii)).

Remarque

En faisant tendre NN vers l'infini, on obtient la probabilité de retour en 00 de la marche sur ℤ\mathbb Z issue de 00, de pas +1+1 avec probabilité p>12p > \frac12 et −1-1 avec probabilité qq, annoncée au nœud Récurrence et transience. Partant de 11, l'événement « atteindre 00 avant NN » croît avec NN, et sa réunion est l'événement « atteindre 00 », puisqu'une trajectoire qui atteint 00 est bornée avant de l'atteindre. Par (iv) avec x=1x = 1 et r=q/p<1r = q/p < 1, sa probabilité est 1−1−r1−rN⟶r=qp.1 - \frac{1 - r}{1 - r^N} \longrightarrow r = \frac qp.

Partant de −1-1, on retourne la droite et l'on translate de NN : atteindre 00 avant −N-N revient, pour une fortune initiale N−1N - 1, à atteindre NN avant 00, de probabilité 1−rN−11−rN→1\frac{1 - r^{N-1}}{1 - r^N} \to 1. Par la propriété de Markov à l'instant 11, la probabilité de retour est donc f0=p⋅qp+q⋅1=2q=1−(p−q)f_0 = p\cdot\frac qp + q \cdot 1 = 2q = 1 - (p - q), et, par symétrie, f0=1−∣p−q∣f_0 = 1 - |p - q| pour tout p≠12p \neq \frac12. Pour p=0,6p = 0{,}6, f0=0,8f_0 = 0{,}8, et E0[N0]=11−f0=5E_0[N_0] = \frac1{1 - f_0} = 5.

Remarque

La stratégie de (iii) et (iv), arrêt borné en min⁡(T,n)\min(T, n) puis passage à la limite, est un cas particulier du théorème d'arrêt de Doob (Théorème d'arrêt, (iii)) : les martingales arrêtées employées ici sont bornées, pour SnS_n et rSnr^{S_n}, ou dominées par une variable intégrable, pour Sn2−nS_n^2 - n et Sn−n(p−q)S_n - n(p - q), puisque ∣Smin⁡(T,n)2−min⁡(T,n)∣⩽N2+T|S_{\min(T, n)}^2 - \min(T, n)| \leqslant N^2 + T et ∣Smin⁡(T,n)−min⁡(T,n)(p−q)∣⩽N+T|S_{\min(T, n)} - \min(T, n)(p - q)| \leqslant N + T, intégrables par (ii) ; cette domination suffit à ce théorème. Les calculs de E[T]E[T] sont des identités de Wald (Identités de Wald), qui donnent aussi le temps moyen d'atteinte d'un niveau bb par la marche biaisée sans barrière en 00, à savoir b/(p−q)b/(p - q) pour p>qp > q.

Repose sur

Sert à

Aucune fiche de ce graphe ne l'utilise encore.
Ouvrir dans l'atlas interactif →