Calculs exacts et asymptotiques Calcul exact des probabilités de transition en plusieurs étapes

La probabilité d’une transition de l’état i à l’état j dans 2 transitions est la somme pour tout k de la probabilité d’une transition de i à k dans la première transition suivie d’une transition de k à j dans la deuxième:

P_{i,j}^{(2)} = ∑_{k=1}^{n} P_{i,k}P_{k,j}

Le calcul du carré de la matrice P !

P^{(2)} = P^{2}

– p. 1/12

La probabilité d’une transition de l’état i à l’état j dans m transitions est la somme pour tout k de la probabilité d’une transition de i à k dans les premières m − 1 transitions suivie d’une transition de k à j dans la dernière:

P_{i,j}^{(m)} = ∑_{k=1}^{n} P_{i,k}^{(m−1)}P_{k,j}

P^{(m)} = P^{(m−1)}P

et, donc, par récurrence

P^{(m)} = P^{m}

Calcul plus efficace par calcul des carrés _{– p. 2/12}

Trouver les composants fortement connexes

• Si on fait le même calcul de puissances de matrices mais avec des valeurs booléennes (en remplacant + par ou et ∗ par et) on calcule s’il existe un chemin de longueur m de i à j

• De plus, si on ajoute d’abord P_{i,i} = vrai pour chaque i, on calcule s’il existe un chemin de longueur ≤ m pour m ≥ n − 1 ça équivaut à s’il existe un chemin.

• Donc recherche facile des composants fortement connexes les classes d’états

Bien sûr, il y a d’autres méthodes !

– p. 3/12

Les calculs asymptotiques La distribution limite (s’il existe une seule classe finale et elle est

apériodique) (Le cas le plus important) Propriété de stationnarité

Pour n’importe quelle configuration initiale (un seul état ou une distribution aléatoire entre plusieurs), les probabilités du système doivent converger sur la même distribution limite Si la configuration initiale est déjà la distribution limite, alors elle ne va jamais changer

– p. 4/12

Calcul direct de la distribution limite

C’est-à-dire que si Π_{j} est la limite de P_{i,j}^{(m)}, ∑_{i} Π_{i}P_{i,j} = Π_{j}. n équations linéaires en n variables. (une pour chaque colonne de P)

Un seul vecteur possède cette

propriété?

Ces n équations linéaires suffisent-elles pour déterminer les n variables (valeurs de la distribution limite)? Non! Le vecteur (0, 0, 0, ⋯, 0) est aussi une solution! (en effet la dernière équation est une combinaison linéaire des autres parce que la matrice est stochastique) Il faut ajouter une nouvelle équation (indépendante) afin de réduire le nombre de solutions à 1: Π_{1} + Π_{2} + ⋯ Π_{n} = 1.

Le cas de plusieurs classes finales

(non périodiques)

Il suffit de calculer la probabilité de tomber dans chaque classe finale La probabilité asymptotique d’être dans l’état i est 0 si i est un état transitoire et, sinon, la probabilité de tomber dans la classe finale contenant i multipliée par la probabilité d’être dans l’état i dans la distribution limite de la chaîne irréductible de cette classe. Pour déterminer la probabilité de finir dans une classe C, on peut définir pour chaque état i la probabilité q_{i} de tomber enfin dans C. Si i est dans C, q_{i} = 1; si i est dans une autre classe finale q_{i} = 0; sinon

q_{i} = ∑_{j=1}^{n} P_{i,j}q_{j}

(Une équation pour chaque ligne de P) Et cette fois les équations sont indépendantes et, donc, suffisent pour calculer les q_{i}.

On peut faire ça pour chaque C finale et la distribution limite pour un état initial i est la somme pondérée des distributions limite de chaque classe finale C avec pour poids la probabilité de tomber en C à partir de l’état i.

Savoir si une classe est périodique

• On sait déjà calculer la matrice P^{m} des chemins de longueur m pour m ≥ n.

• S’il y a deux chemins de la même longueur de i à j et k (i, j et k dans la même classe), alors j et k sont dans la même sous-classe.

• Mais faire cela pour m = n ne suffit pas pour trouver toutes les paires! (exemple deux cycles de longueurs 8 et 10 avec un “pont” entre les deux en les deux sens.)

• Pour m suffisamment grand il suffit (m ≥ c^{2} où c

est la taille de la classe)

– p. 9/12

• Et on peut lire les sous-classes dans P^{m}. Dans chaque sous-classe les lignes sont identiques (dans les colonnes de la classe).

Ou la méthode vue en TD est aussi valable et efficace. (Peut-être plus compliquée à coder ?)

Le cas périodique

Il n’y a plus de distribution limite. Pour tout i < λ il y a une distribution limite valable pour les temps ≡ i (mod λ) (étant donné un état initial). On divise les états persistants en les λ sous-classes et on calcule une distribution limite sur chaque sous-classe en utilisant la matrice de transitions en λ étapes, P^{λ}. Pour savoir la probabilité que, à temps t (t grand) on est dans un état donné, il faut d’abord calculer la probabilité d’être tombé dans chaque sous-classe, probabilité qui dépend de t mod λ. Trivial dans le cas où tous les états de la chaîne sont persistants; _{– p. 11/12} sinon le cas i = 0 est résolu par le calcul des probabilités de tomber dans chacune des classes finales appliqué à P^{λ}; et on en déduit les valeurs pour les autres i (mêmes probabilités décalées par i).