ExerciceMaths expertes, chapitre 9 — Chaînes de Markov · Distribution invariante
Exercice 13
Un simulateur de jeux est programmé pour le niveau difficile de la façon suivante :
• La personne a % de chance de réussite au premier jeu, puis;
• si la personne a gagné, elle a une chance sur quatre de gagner le jeu suivant;
• si la personne a perdu, elle a deux chances sur cinq de gagner le jeu suivant.
Soit la variable aléatoire correspondant à la réussite du joueur au -ième jeu.
1. (a) Justifier que la suite de variables aléatoires est une chaîne de Markov dont on précisera l’espace des états.
(b) Représenter le graphe puis donner la matrice de transition de cette chaîne.
2. (a) Donner la distribution initiale de cette chaîne puis exprimer la distribution au -ième jeu en fonction de et de .
(b) En déduire la probabilité qu’un joueur gagne le cinquième jeu.
(c) Déterminer la distribution invariante de cette chaîne.
(d) Comment programmer les chances de réussite initiales afin qu’un joueur ait les mêmes chances quel que soit le nombre de parties qu’il fait ?
Corrigé
1. (a) L'issue du jeu ne dépend que du résultat du jeu — gagné ou perdu — et non de l'historique complet. Les probabilités énoncées ne dépendent pas du numéro du jeu. où signifie « le joueur gagne » et « le joueur perd ».
(b) Si le joueur a gagné, il gagne le suivant avec probabilité , donc il perd avec probabilité . S'il a perdu, il gagne le suivant avec probabilité , donc il perd avec probabilité .
2. (a) Le premier jeu est réussi avec probabilité : Chaque passage d'un jeu au suivant se traduit par une multiplication à droite par :
(b) Avec la convention précédente, décrit le premier jeu : le cinquième jeu correspond donc à .
(c) On cherche tel que et . La première équation s'écrit : En reportant dans :
On remarque que est déjà très proche de : la convergence est rapide.
(d) Pour que les chances soient les mêmes quel que soit le nombre de parties, il faut que la distribution ne change plus d'un jeu au suivant, c'est-à-dire que soit déjà la distribution invariante.