comprendre comment construire une chaîne de markov d'ordre supérieur

Question

Supposons que je souhaite prédire si une personne est de class1=healthy ou de class2= fever. La matrice de transition contiendrait la probabilité de transition générée à partir de notre ensemble de données d'entraînement alors que le vecteur initial contiendrait la probabilité qu'une personne commence (jour1) avec un état x de la base de données de formation. domaine {normal,cold,dizzy}, encore une fois cela est également généré à partir de notre ensemble d'entraînement.

Si je veux construire une première chaîne de Markov d'ordre, je générer une matrice de transition 3x3 et un vecteur initial 1x3 par classe comme ceci:

> TransitionMatrix 
     normal cold dizzy 
normal  NA NA NA 
cold  NA NA NA 
dizzy  NA NA NA 

>Initial Vector 
    normal cold dizzy 
[1,]  NA NA NA 

Le NA sera rempli avec les probabilités correspondantes.

1-Ma question concerne les matrices de transition dans la chaîne d'ordre supérieur. Par exemple, en second ordre MC aurions-nous une matrice de transition de la taille domain²xdomain² comme ceci:

   normal->normal normal->cold normal->dizzy cold->normal cold->cold cold->dizzy dizzy->normal dizzy->cold dizzy->dizzy 
normal->normal    NA   NA   NA   NA   NA   NA   NA   NA   NA 
normal->cold    NA   NA   NA   NA   NA   NA   NA   NA   NA 
normal->dizzy    NA   NA   NA   NA   NA   NA   NA   NA   NA 
cold->normal    NA   NA   NA   NA   NA   NA   NA   NA   NA 
cold->cold     NA   NA   NA   NA   NA   NA   NA   NA   NA 
cold->dizzy    NA   NA   NA   NA   NA   NA   NA   NA   NA 
dizzy->normal    NA   NA   NA   NA   NA   NA   NA   NA   NA 
dizzy->cold    NA   NA   NA   NA   NA   NA   NA   NA   NA 
dizzy->dizzy    NA   NA   NA   NA   NA   NA   NA   NA   NA 

ici la cellule (1,1) représente la séquence suivante: normal->normal->normal->normal

ou serait-il plutôt juste domain²xdomain comme ceci:

   normal cold dizzy 
normal->normal  NA NA NA 
normal->cold  NA NA NA 
normal->dizzy  NA NA NA 
cold->normal  NA NA NA 
cold->cold   NA NA NA 
cold->dizzy  NA NA NA 
dizzy->normal  NA NA NA 
dizzy->cold  NA NA NA 
dizzy->dizzy  NA NA NA 

ici la cellule (1,1) représente normal->normal->normal qui est différent de la représentation précédente

2 Qu'en est le vecteur initial pour un MC de degré 2. Est-ce que nous avons besoin de deux vecteurs initiaux de taille 1xdomain comme ceci:

 normal cold dizzy 
[1,]  NA NA NA 

conduisant à deux vecteurs initiaux par classe. le premier donnant la probabilité d'occurrence de {normal,cold,dizzy} le premier jour pour la classe healthy/fever tandis que le second donne la probabilité d'occurrence le deuxième jour pour le healthy/fever. ceci donnerait 4 vecteurs initiaux.

ou si nous avons juste besoin d'un vecteur initial de la taille 1xdomain² comme ceci:

normal->normal normal->cold normal->dizzy cold->normal cold->cold cold->dizzy dizzy->normal dizzy->cold dizzy->dizzy 
[1,]    NA   NA   NA   NA   NA   NA   NA   NA   NA 

Je peux voir comment la deuxième façon de représenter le vecteur initial serait problématique si nous voulons classer une observation avec seulement un état.

Answer 1

Dites que l'ensemble des espaces est S. Typiquement, dans le n ième ordre,

1. La matrice de transition a des dimensions | S | ⁿ X | S |. En effet, étant donné l'historique actuel des états, nous avons besoin de la probabilité de l'état suivant unique. Il est vrai que ce seul état suivant induit un autre état composé de l'histoire n, mais la transition elle-même est à l'état suivant unique. Voir this example in Wikipedia, par exemple.

2. La distribution initiale est une distribution sur | S | ⁿ éléments (votre deuxième option).