Seja !$ \{ \text{X}_\text{n} \ ; \text{n} \in \mathbb{N} \} !$ uma Cadeia de Markov com espaço de estados !$ \text{E} = \{ 1,2,3,\cdots,\text{h} \} !$.
A matriz de transição em uma etapa da Cadeia, ou seja !$ \text{P} = [\text{P}_{\text{i,j}}] !$, é uma matriz estocástica se e somente se