Proposition 1Chaînes de Markov
Ruine du joueur
Soient un entier, , , , et des variables indépendantes valant avec probabilité et avec probabilité . La fortune d'un joueur qui part de et gagne ou perd une unité à chaque partie est et est l'instant où il est ruiné ou atteint son objectif . On note , étant la tribu triviale.
(i) La suite est une chaîne issue de sur , de matrice et pour , et .
(ii) est un temps d'arrêt pour , et ; en particulier presque sûrement.
(iii) Si , et .
(iv) Si , avec ,
Démonstration
(i) Soient tels que soit de probabilité non nulle ; c'est un événement de . Si , alors sur et . Sinon sur , et , où est indépendante de par regroupement (Indépendance, (ii)). Dans les deux cas, , et l'on conclut par la forme conditionnelle (Chaînes de Markov, (i)).
(ii) . Si , alors et il n'y a rien à démontrer. Si , sur l'événement , qui appartient à , la fortune vaut au moins à l'instant ; si les parties suivantes sont gagnées, elle atteint avant l'instant . Ces parties étant indépendantes de , d'où . Comme , la convergence monotone (Convergence monotone) donne, en majorant chacun des termes , , par ,
(iii) Stratégie. Pour chaque martingale ci-dessous, est un temps d'arrêt borné par , car , et l'arrêt borné (Martingales, (iii)) donne ; on fait ensuite tendre vers l'infini.
La suite est une martingale (Martingales, (i), première assertion, la constante ne changeant rien). Comme et que presque sûrement, la convergence dominée (Convergence dominée, (i)) donne . Or , donc .
La suite est aussi une martingale : étant bornée par et -mesurable, et indépendante de (Espérance conditionnelle, (iv)), Donc . Quand , le premier membre tend vers par convergence dominée, le second vers par convergence monotone, d'où .
(iv) De même, est une martingale, puisque et que est bornée et -mesurable ; et . Avec , l'arrêt borné et la convergence dominée donnent d'où la valeur de , puisque . Enfin est une martingale, et , soit .
□Pour et , le joueur d'un jeu équitable atteint son objectif avec probabilité , après parties en moyenne. Avec une probabilité de gain de au lieu de à chaque partie, la probabilité tombe à et la durée moyenne à : un léger biais suffit à diviser ses chances par plus de deux.
La fonction , vue comme fonction de la fortune initiale , vérifie pour , avec et : elle est harmonique pour la chaîne de (i), au sens du nœud Propriété de Markov. Les martingales employées ci-dessus sont les suites et leurs analogues. Pour cette chaîne, les états et forment chacun une classe fermée récurrente, et les autres sont transients, puisqu'ils mènent à sans que mène à eux (Récurrence et transience, (iii)).
En faisant tendre vers l'infini, on obtient la probabilité de retour en de la marche sur issue de , de pas avec probabilité et avec probabilité , annoncée au nœud Récurrence et transience. Partant de , l'événement « atteindre avant » croît avec , et sa réunion est l'événement « atteindre », puisqu'une trajectoire qui atteint est bornée avant de l'atteindre. Par (iv) avec et , sa probabilité est
Partant de , on retourne la droite et l'on translate de : atteindre avant revient, pour une fortune initiale , à atteindre avant , de probabilité . Par la propriété de Markov à l'instant , la probabilité de retour est donc , et, par symétrie, pour tout . Pour , , et .
La stratégie de (iii) et (iv), arrêt borné en puis passage à la limite, est un cas particulier du théorème d'arrêt de Doob (Théorème d'arrêt, (iii)) : les martingales arrêtées employées ici sont bornées, pour et , ou dominées par une variable intégrable, pour et , puisque et , intégrables par (ii) ; cette domination suffit à ce théorème. Les calculs de sont des identités de Wald (Identités de Wald), qui donnent aussi le temps moyen d'atteinte d'un niveau par la marche biaisée sans barrière en , à savoir pour .