QCM : Chaines de Markov

[enonce]
Ce QCM porte sur les chaînes de Markov : matrice de transition, lecture d'un graphe probabiliste, évolution d'une distribution et état stable. Pour chaque question, choisissez la bonne réponse parmi les quatre propositions.
[/enonce]

[etape]
Parmi les matrices suivantes, laquelle peut être la matrice de transition d'une chaîne de Markov à deux états ?
[qcm]
[option]$\begin{pmatrix} 0{,}3 & 0{,}6 \\ 0{,}7 & 0{,}4 \end{pmatrix}$[/option]
[option]$\begin{pmatrix} 0{,}4 & 0{,}4 \\ 0{,}5 & 0{,}5 \end{pmatrix}$[/option]
[option correct="true"]$\begin{pmatrix} 0{,}3 & 0{,}7 \\ 0{,}6 & 0{,}4 \end{pmatrix}$[/option]
[option]$\begin{pmatrix} 1{,}2 & -0{,}2 \\ 0{,}5 & 0{,}5 \end{pmatrix}$[/option]
[reponse statut="correct"]Bonne réponse !
Tous les coefficients sont compris entre $0$ et $1$, et la somme de chaque ligne vaut $1$ : $0{,}3 + 0{,}7 = 1$ et $0{,}6 + 0{,}4 = 1$. C'est bien une matrice stochastique.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}3 & 0{,}6 \\ 0{,}7 & 0{,}4 \end{pmatrix}$"]Non.
Le piège est de contrôler les colonnes au lieu des lignes. Vérifier plutôt la somme de chaque ligne de cette matrice.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}4 & 0{,}4 \\ 0{,}5 & 0{,}5 \end{pmatrix}$"]Non.
Recalculer la somme des coefficients de la première ligne : décrit-elle bien une répartition complète des probabilités au départ d'un état ?[/reponse]
[reponse motif="$\begin{pmatrix} 1{,}2 & -0{,}2 \\ 0{,}5 & 0{,}5 \end{pmatrix}$"]Non.
Observer attentivement les deux coefficients de la première ligne : un coefficient d'une matrice de transition peut-il prendre de telles valeurs ?[/reponse]
[reponse statut="incorrect"]Non.
Une matrice de transition est stochastique : ses coefficients sont compris entre $0$ et $1$ et la somme de chaque ligne vaut $1$.[/reponse]
[/qcm]
[/etape]

[etape]
Une entreprise répartit ses clients chaque mois entre deux offres $A$ et $B$. Les transitions d'un mois au suivant sont décrites par le graphe probabiliste ci-dessous (états classés dans l'ordre $A$, $B$).

Graphe probabiliste à deux états A et B avec boucles et arcs pondérés par les probabilités de transition

Quelle est la matrice de transition $P$ associée à ce graphe ?
[qcm]
[option correct="true"]$\begin{pmatrix} 0{,}7 & 0{,}3 \\ 0{,}4 & 0{,}6 \end{pmatrix}$[/option]
[option]$\begin{pmatrix} 0{,}7 & 0{,}4 \\ 0{,}3 & 0{,}6 \end{pmatrix}$[/option]
[option]$\begin{pmatrix} 0{,}3 & 0{,}7 \\ 0{,}6 & 0{,}4 \end{pmatrix}$[/option]
[option]$\begin{pmatrix} 0{,}6 & 0{,}4 \\ 0{,}3 & 0{,}7 \end{pmatrix}$[/option]
[reponse statut="correct"]Exactement !
La ligne $1$ décrit les départs de $A$ : la boucle $A \to A$ donne $0{,}7$ et l'arc $A \to B$ donne $0{,}3$. La ligne $2$ décrit les départs de $B$ : $B \to A$ donne $0{,}4$ et la boucle $B \to B$ donne $0{,}6$. Chaque ligne a bien pour somme $1$.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}7 & 0{,}4 \\ 0{,}3 & 0{,}6 \end{pmatrix}$"]Non.
Les arcs $A \to B$ et $B \to A$ semblent avoir été rangés dans les colonnes au lieu des lignes. Relire ce que représente une ligne de $P$ : tous les départs d'un même état.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}3 & 0{,}7 \\ 0{,}6 & 0{,}4 \end{pmatrix}$"]Non.
Pour chaque état, repérer d'abord l'arc qui revient sur lui-même (la boucle) avant l'arc qui part vers l'autre état.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}6 & 0{,}4 \\ 0{,}3 & 0{,}7 \end{pmatrix}$"]Non.
Vérifier dans quel ordre les états sont classés : la première ligne doit décrire les départs de l'état $A$, pas ceux de $B$.[/reponse]
[reponse statut="incorrect"]Non.
Le coefficient $P_{i,j}$ se lit sur l'arc orienté de l'état $i$ vers l'état $j$ ; chaque ligne regroupe tous les départs d'un même état.[/reponse]
[/qcm]
[/etape]

[etape]
On reprend la matrice $P = \begin{pmatrix} 0{,}7 & 0{,}3 \\ 0{,}4 & 0{,}6 \end{pmatrix}$ précédente. Au mois $0$, tous les clients ont choisi l'offre $A$, donc $\pi_0 = \begin{pmatrix} 1 & 0 \end{pmatrix}$. Quelle est la distribution $\pi_1$ au mois suivant ?
[qcm]
[option]$\begin{pmatrix} 1 & 0 \end{pmatrix}$[/option]
[option]$\begin{pmatrix} 0{,}7 & 0{,}4 \end{pmatrix}$[/option]
[option correct="true"]$\begin{pmatrix} 0{,}7 & 0{,}3 \end{pmatrix}$[/option]
[option]$\begin{pmatrix} 0{,}3 & 0{,}7 \end{pmatrix}$[/option]
[reponse statut="correct"]Bravo !
On calcule $\pi_1 = \pi_0 \times P = \begin{pmatrix} 1 & 0 \end{pmatrix} P$, ce qui sélectionne la première ligne de $P$ : $\pi_1 = \begin{pmatrix} 0{,}7 & 0{,}3 \end{pmatrix}$.[/reponse]
[reponse motif="$\begin{pmatrix} 1 & 0 \end{pmatrix}$"]Non.
Cela reviendrait à laisser la distribution inchangée. Or l'état évolue : il faut effectuer le produit $\pi_0 \times P$.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}7 & 0{,}4 \end{pmatrix}$"]Non.
La première colonne de $P$ semble avoir été lue au lieu de la première ligne. Bien identifier quelle partie de $P$ est sélectionnée par le produit $\begin{pmatrix} 1 & 0 \end{pmatrix} \times P$.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}3 & 0{,}7 \end{pmatrix}$"]Non.
Les deux composantes paraissent inversées. Reprendre l'ordre des états $A$ puis $B$ dans le résultat.[/reponse]
[reponse statut="incorrect"]Non.
La distribution évolue par $\pi_1 = \pi_0 \times P$, vecteur ligne multiplié à gauche de la matrice.[/reponse]
[/qcm]
[/etape]

[etape]
Avec la même matrice $P = \begin{pmatrix} 0{,}7 & 0{,}3 \\ 0{,}4 & 0{,}6 \end{pmatrix}$ et $\pi_1 = \begin{pmatrix} 0{,}7 & 0{,}3 \end{pmatrix}$, quelle est la distribution $\pi_2$ au mois suivant ?
[qcm]
[option]$\begin{pmatrix} 0{,}49 & 0{,}09 \end{pmatrix}$[/option]
[option]$\begin{pmatrix} 0{,}55 & 0{,}45 \end{pmatrix}$[/option]
[option correct="true"]$\begin{pmatrix} 0{,}61 & 0{,}39 \end{pmatrix}$[/option]
[option]$\begin{pmatrix} 0{,}39 & 0{,}61 \end{pmatrix}$[/option]
[reponse statut="correct"]Tout à fait !
On effectue $\pi_2 = \pi_1 \times P$ : la première composante vaut $0{,}7 \times 0{,}7 + 0{,}3 \times 0{,}4 = 0{,}49 + 0{,}12 = 0{,}61$ et la seconde $0{,}7 \times 0{,}3 + 0{,}3 \times 0{,}6 = 0{,}21 + 0{,}18 = 0{,}39$. La somme $0{,}61 + 0{,}39 = 1$ confirme le calcul.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}49 & 0{,}09 \end{pmatrix}$"]Non.
Il semble que seuls les coefficients diagonaux de $P$ aient été élevés au carré. Le produit $\pi_1 \times P$ combine chaque composante de $\pi_1$ avec une colonne entière de $P$.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}55 & 0{,}45 \end{pmatrix}$"]Non.
Reprendre le produit terme à terme : chaque composante de $\pi_2$ additionne deux produits, pas une simple moyenne des coefficients.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}39 & 0{,}61 \end{pmatrix}$"]Non.
Les deux composantes paraissent permutées. Vérifier quelle colonne de $P$ donne la probabilité de l'état $A$ et laquelle donne celle de $B$.[/reponse]
[reponse statut="incorrect"]Non.
Chaque composante de $\pi_2 = \pi_1 \times P$ est une somme de produits ligne par colonne ; les composantes doivent encore avoir pour somme $1$.[/reponse]
[/qcm]
[/etape]

[etape]
Une chaîne de Markov à deux états a pour matrice de transition $P = \begin{pmatrix} 0{,}9 & 0{,}1 \\ 0{,}4 & 0{,}6 \end{pmatrix}$. Quel est son état stable $\pi = \begin{pmatrix} x & y \end{pmatrix}$ ?
[qcm]
[option]$\begin{pmatrix} 0{,}5 & 0{,}5 \end{pmatrix}$[/option]
[option correct="true"]$\begin{pmatrix} 0{,}8 & 0{,}2 \end{pmatrix}$[/option]
[option]$\begin{pmatrix} 0{,}2 & 0{,}8 \end{pmatrix}$[/option]
[option]$\begin{pmatrix} 0{,}9 & 0{,}1 \end{pmatrix}$[/option]
[reponse statut="correct"]C'est bien ça !
L'égalité $\pi = \pi \times P$ donne $x = 0{,}9\,x + 0{,}4\,y$, soit $0{,}1\,x = 0{,}4\,y$, donc $x = 4y$. Avec la condition $x + y = 1$, on obtient $5y = 1$, d'où $y = 0{,}2$ et $x = 0{,}8$. On vérifie : $\begin{pmatrix} 0{,}8 & 0{,}2 \end{pmatrix} \times P = \begin{pmatrix} 0{,}8 & 0{,}2 \end{pmatrix}$.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}5 & 0{,}5 \end{pmatrix}$"]Non.
Un état stable n'est pas une simple répartition égale entre les deux états : il faut le déterminer en résolvant $\pi = \pi \times P$.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}2 & 0{,}8 \end{pmatrix}$"]Non.
Les deux composantes semblent inversées. Reprendre la relation entre $x$ et $y$ obtenue à partir de $\pi = \pi \times P$.[/reponse]
[reponse motif="$\begin{pmatrix} 0{,}9 & 0{,}1 \end{pmatrix}$"]Non.
Une ligne de $P$ n'est pas l'état stable. L'état stable se trouve en résolvant le système $\pi = \pi \times P$ avec la condition de somme égale à $1$.[/reponse]
[reponse statut="incorrect"]Non.
L'état stable vérifie $\pi = \pi \times P$ ; on le détermine en résolvant ce système complété par la condition $x + y = 1$.[/reponse]
[/qcm]
[/etape]

[etape]
Dans le chapitre, on rencontre la matrice de transition d'une chaîne de Markov et la matrice d'adjacence d'un graphe. Quelle affirmation les distingue correctement ?
[qcm]
[option]Ce sont deux noms différents pour le même objet.[/option]
[option]La matrice de transition compte des arêtes, la matrice d'adjacence contient des probabilités.[/option]
[option correct="true"]La matrice de transition contient des probabilités, avec une somme de $1$ sur chaque ligne ; la matrice d'adjacence contient des entiers qui comptent des arêtes ou des arcs.[/option]
[option]Les deux ont des coefficients dont chaque ligne a pour somme $1$.[/option]
[reponse statut="correct"]Tu as raison !
La matrice de transition $P$ a des coefficients réels compris entre $0$ et $1$ (des probabilités) et chaque ligne a pour somme $1$. La matrice d'adjacence a des coefficients entiers qui dénombrent les arêtes ou les arcs entre deux sommets : ce sont deux objets distincts.[/reponse]
[reponse motif="Ce sont deux noms différents pour le même objet."]Non.
Comparer la nature des coefficients de chacune : des probabilités d'un côté, des entiers de l'autre. Cela suffit à montrer que ce sont deux objets différents.[/reponse]
[reponse motif="La matrice de transition compte des arêtes, la matrice d'adjacence contient des probabilités."]Non.
Les deux rôles sont intervertis ici. Redéfinir ce que contient chaque matrice avant de conclure.[/reponse]
[reponse motif="Les deux ont des coefficients dont chaque ligne a pour somme $1$."]Non.
La propriété « somme de chaque ligne égale à $1$ » ne caractérise que l'une des deux matrices. Vérifier ce que vaut la somme d'une ligne d'une matrice d'adjacence.[/reponse]
[reponse statut="incorrect"]Non.
La matrice de transition est stochastique (probabilités, lignes de somme $1$) ; la matrice d'adjacence est entière et compte des arêtes ou des arcs.[/reponse]
[/qcm]
[/etape]

Chaine de Markov : etat stable d’un systeme

Sur une autoroute, chaque véhicule qui se présente à une barrière de péage utilise l'une des trois files suivantes :

  • la file automatique par carte bancaire (état $A$) ;
  • la file manuelle avec un agent (état $M$) ;
  • la file de télépéage sans arrêt (état $T$).

Une étude statistique modélise le choix d'un même conducteur d'un passage au suivant par une chaîne de Markov. D'un passage à l'autre :

  • un conducteur de la file $A$ reprend $A$ avec la probabilité $0{,}7$, passe à $M$ avec la probabilité $0{,}1$ et à $T$ avec la probabilité $0{,}2$ ;
  • un conducteur de la file $M$ passe à $A$ avec la probabilité $0{,}3$, reprend $M$ avec la probabilité $0{,}5$ et passe à $T$ avec la probabilité $0{,}2$ ;
  • un conducteur de la file $T$ passe à $A$ avec la probabilité $0{,}1$, à $M$ avec la probabilité $0{,}1$ et reprend $T$ avec la probabilité $0{,}8$.
Graphe probabiliste à 3 états A, M et T avec arcs et boucles pondérés par les probabilités de transition entre les files de péage

On classe les états dans l'ordre $A$, $M$, $T$.

  1. Déterminer la matrice de transition $P$ de cette chaîne de Markov et vérifier qu'elle est stochastique.
  2. Au premier passage observé, un conducteur emprunte la file automatique : on prend donc $\pi_0 = \begin{pmatrix} 1 & 0 & 0 \end{pmatrix}$.

    1. Calculer $\pi_1$, puis $\pi_2$.
    2. Interpréter chaque composante de $\pi_2$.
  3. On cherche une distribution $\pi = \begin{pmatrix} x & y & z \end{pmatrix}$ stable au cours du temps.

    1. Écrire le système traduisant $\pi = \pi \times P$.
    2. Déterminer $\pi$ (valeurs exactes) en tenant compte de la condition de normalisation.
  4. Interpréter le comportement à long terme du système et le comparer à $\pi_2$.

Corrigé

  1. Chaque arc orienté de l'état $i$ vers l'état $j$ fournit le coefficient $P_{i,j}$ (les boucles donnent les coefficients diagonaux). Dans l'ordre $A$, $M$, $T$ :

    $P = \begin{pmatrix} 0{,}7 & 0{,}1 & 0{,}2 \\ 0{,}3 & 0{,}5 & 0{,}2 \\ 0{,}1 & 0{,}1 & 0{,}8 \end{pmatrix}$

    Tous les coefficients sont compris entre $0$ et $1$ et chaque ligne a pour somme $1$ : $0{,}7 + 0{,}1 + 0{,}2 = 1$, $0{,}3 + 0{,}5 + 0{,}2 = 1$ et $0{,}1 + 0{,}1 + 0{,}8 = 1$. La matrice $P$ est donc bien stochastique.

    1. La distribution après un passage est $\pi_1 = \pi_0 \times P$, c'est-à-dire la première ligne de $P$ :

      $\pi_1 = \begin{pmatrix} 1 & 0 & 0 \end{pmatrix} P = \begin{pmatrix} 0{,}7 & 0{,}1 & 0{,}2 \end{pmatrix}$

      On calcule ensuite $\pi_2 = \pi_1 \times P$ en effectuant le produit ligne par colonne :

      • file $A$ : $0{,}7 \times 0{,}7 + 0{,}1 \times 0{,}3 + 0{,}2 \times 0{,}1 = 0{,}49 + 0{,}03 + 0{,}02 = 0{,}54$ ;
      • file $M$ : $0{,}7 \times 0{,}1 + 0{,}1 \times 0{,}5 + 0{,}2 \times 0{,}1 = 0{,}07 + 0{,}05 + 0{,}02 = 0{,}14$ ;
      • file $T$ : $0{,}7 \times 0{,}2 + 0{,}1 \times 0{,}2 + 0{,}2 \times 0{,}8 = 0{,}14 + 0{,}02 + 0{,}16 = 0{,}32$.

      D'où $\pi_2$ = $\mathbf{\begin{pmatrix} 0{,}54 & 0{,}14 & 0{,}32 \end{pmatrix}}$. La somme $0{,}54 + 0{,}14 + 0{,}32 = 1$ confirme le résultat.

    2. Au deuxième passage, le conducteur emprunte la file automatique avec la probabilité $0{,}54$, la file manuelle avec la probabilité $0{,}14$ et la file de télépéage avec la probabilité $0{,}32$.
    1. L'égalité $\begin{pmatrix} x & y & z \end{pmatrix} = \begin{pmatrix} x & y & z \end{pmatrix} P$ se traduit, colonne par colonne, par :

      $\left\{ \begin{array}{l} x = 0{,}7\,x + 0{,}3\,y + 0{,}1\,z \\ y = 0{,}1\,x + 0{,}5\,y + 0{,}1\,z \\ z = 0{,}2\,x + 0{,}2\,y + 0{,}8\,z \end{array} \right.$
    2. La troisième équation étant redondante, on l'abandonne et on simplifie les deux premières :

      • $x = 0{,}7\,x + 0{,}3\,y + 0{,}1\,z$ donne $0{,}3\,x = 0{,}3\,y + 0{,}1\,z$, soit $3x = 3y + z$ ;
      • $y = 0{,}1\,x + 0{,}5\,y + 0{,}1\,z$ donne $0{,}5\,y = 0{,}1\,x + 0{,}1\,z$, soit $5y = x + z$.

      De la première relation, $z = 3x - 3y$. On reporte dans $5y = x + z$ :

      $5y = x + (3x - 3y) = 4x - 3y$

      soit $8y = 4x$, donc $x = 2y$. On en déduit $z = 3 \times 2y - 3y = 3y$.

      La condition de normalisation $x + y + z = 1$ donne alors :

      $2y + y + 3y = 6y = 1$

      d'où $y = \dfrac{1}{6}$, puis $x = 2y = \dfrac{1}{3}$ et $z = 3y = \dfrac{1}{2}$. Toutes les composantes sont positives et leur somme vaut $\dfrac{1}{3} + \dfrac{1}{6} + \dfrac{1}{2} = \dfrac{2 + 1 + 3}{6} = 1$.

      La distribution stable est $\mathbf{\pi}$ = $\mathbf{\begin{pmatrix} \dfrac{1}{3} & \dfrac{1}{6} & \dfrac{1}{2} \end{pmatrix}}$.

  2. La chaîne est régulière (tous les coefficients de $P$ sont strictement positifs), donc la suite $\pi_n$ converge vers la distribution stable $\pi$, quelle que soit la file de départ. À long terme, la répartition des passages se stabilise autour de $\dfrac{1}{3} \approx 0{,}33$ pour la file automatique, $\dfrac{1}{6} \approx 0{,}17$ pour la file manuelle et $\dfrac{1}{2} = 0{,}5$ pour le télépéage : environ la moitié des passages se font à terme par le télépéage.

    On retrouve déjà cette tendance dès le deuxième passage : la composante de la file $A$ passe de $1$ à $0{,}54$ et celle du télépéage monte à $0{,}32$, $\pi_2$ se rapprochant progressivement de $\pi$.