ATLAS Ouvrir dans l'atlas →

ExerciceMaths expertes, chapitre 9 — Chaînes de Markov · Distribution invariante

Exercice 13

DémonstrationCalcul

Un simulateur de jeux est programmé pour le niveau difficile de la façon suivante :

• La personne a 1515% de chance de réussite au premier jeu, puis;

• si la personne a gagné, elle a une chance sur quatre de gagner le jeu suivant;

• si la personne a perdu, elle a deux chances sur cinq de gagner le jeu suivant.

Soit XnX_{n} la variable aléatoire correspondant à la réussite du joueur au nn-ième jeu.

1. (a) Justifier que la suite de variables aléatoires (Xn)(X_{n}) est une chaîne de Markov dont on précisera l’espace des états.

(b) Représenter le graphe puis donner la matrice de transition PP de cette chaîne.

2. (a) Donner la distribution initiale π0\pi_{0} de cette chaîne puis exprimer la distribution πn\pi_{n} au nn-ième jeu en fonction de π0\pi_{0} et de PP.

(b) En déduire la probabilité qu’un joueur gagne le cinquième jeu.

(c) Déterminer la distribution invariante π\pi de cette chaîne.

(d) Comment programmer les chances de réussite initiales afin qu’un joueur ait les mêmes chances quel que soit le nombre de parties qu’il fait ?

Corrigé

1. (a) L'issue du jeu n+1n+1 ne dépend que du résultat du jeu nn — gagné ou perdu — et non de l'historique complet. Les probabilités énoncées ne dépendent pas du numéro du jeu. (Xn) est une chaıˆne de Markov homogeˋne d’espace des eˊtats {G ;P}\boxed{(X_{n}) \text{ est une chaîne de Markov homogène d'espace des états } \{G\,;P\}} où GG signifie « le joueur gagne » et PP « le joueur perd ».

(b) Si le joueur a gagné, il gagne le suivant avec probabilité 14\dfrac{1}{4}, donc il perd avec probabilité 34\dfrac{3}{4}. S'il a perdu, il gagne le suivant avec probabilité 25\dfrac{2}{5}, donc il perd avec probabilité 35\dfrac{3}{5}.

Figure
P=(14342535)\boxed{P=\begin{pmatrix} \dfrac{1}{4} & \dfrac{3}{4} \\[3mm] \dfrac{2}{5} & \dfrac{3}{5} \end{pmatrix}}

2. (a) Le premier jeu est réussi avec probabilité 0,150{,}15 : π0=(0,150,85)\boxed{\pi_{0}=\begin{pmatrix} 0{,}15 & 0{,}85 \end{pmatrix}} Chaque passage d'un jeu au suivant se traduit par une multiplication à droite par PP : πn=π0 Pn\boxed{\pi_{n}=\pi_{0}\,P^{n}}

(b) Avec la convention précédente, π0\pi_{0} décrit le premier jeu : le cinquième jeu correspond donc à π4\pi_{4}. π4=π0 P4≈(0,34770,6523)\pi_{4}=\pi_{0}\,P^{4}\approx\begin{pmatrix} 0{,}3477 & 0{,}6523 \end{pmatrix}

P(gagner le cinquieˋme jeu)≈0,348\boxed{P(\text{gagner le cinquième jeu})\approx 0{,}348}

(c) On cherche π=(gp)\pi=\begin{pmatrix} g & p \end{pmatrix} tel que πP=π\pi P=\pi et g+p=1g+p=1. La première équation s'écrit : 14g+25p=g  ⟺  25p=34g  ⟺  p=158g\frac{1}{4}g+\frac{2}{5}p=g \iff \frac{2}{5}p=\frac{3}{4}g \iff p=\frac{15}{8}g En reportant dans g+p=1g+p=1 : g(1+158)=1  ⟺  238g=1  ⟺  g=823g\left(1+\frac{15}{8}\right)=1 \iff \frac{23}{8}g=1 \iff g=\frac{8}{23}

π=(8231523)≈(0,3480,652)\boxed{\pi=\begin{pmatrix} \dfrac{8}{23} & \dfrac{15}{23} \end{pmatrix} \approx\begin{pmatrix} 0{,}348 & 0{,}652 \end{pmatrix}} On remarque que π4\pi_{4} est déjà très proche de π\pi : la convergence est rapide.

(d) Pour que les chances soient les mêmes quel que soit le nombre de parties, il faut que la distribution ne change plus d'un jeu au suivant, c'est-à-dire que π0\pi_{0} soit déjà la distribution invariante. Il faut programmer une probabiliteˊ de reˊussite initiale de 823≈34,8 %\boxed{\text{Il faut programmer une probabilité de réussite initiale de } \frac{8}{23}\approx 34{,}8\ \%}

Ouvrir dans l'atlas interactif →