设信源所处的状态为：信源每个状态下可能输出的符号：每一时刻信源发出一个符号后，所处的状态发生转移信源输出的随机符号序列为：信源所处的随机状态序列为：设在第L时刻信源处于状态时，输出符号的概率给定为：另外，假设在第时刻信源处于Ei状态，下一时刻转移到Ej状态的转移概率为：称此信源的随机状态服从马尔可夫链若当这些概率和时刻L无关，既满足则成为时齐的或齐次的。此时，信源的状态序列服从时齐马尔可夫链。若时齐马尔可夫链对一切存在不依赖于的极限，且满足则称其具有遍历性，称为平稳分布，其中为该马尔可夫链的初始分布。2.6.1(1)马尔可夫信源定义马尔可信源的输出的符号序列和信源所处的状态满足下列两个条件：注：条件②表明，若信源处于某一状态，当它输出一个符号后，所处的状态就变了，一定从状态转移到另一状态。显然，状态的转移依赖于输出的信源符号，因此任何时刻信源处于什么状态完全由前一时刻的状态和输出的符号决定。这种信源的状态序列在数学模型上可以作为时齐马尔可夫链来处理。因而可用马尔可夫链的状态转移图来描述信源。马尔可夫链的状态转移图：每个圆圈代表一种状态，状态之间的有向线代表某一状态向另一状态转移。有向线一侧的符号和数字分别代表发出的符号和条件概率。注：条件②表明，若信源处于某一状态，当它输出一个符号后，所处的状态就变了，一定从状态转移到另一状态。显然，状态的转移依赖于输出的信源符号，因此任何时刻信源处于什么状态完全由前一时刻的状态和输出的符号决定。这种信源的状态序列在数学模型上可以作为时齐马尔可夫链来处理。因而可用马尔可夫链的状态转移图来描述信源。马尔可夫链的状态转移图：每个圆圈代表一种状态，状态之间的有向线代表某一状态向另一状态转移。有向线一侧的符号和数字分别代表发出的符号和条件概率。2.6.1(2)m阶马尔可夫信源定义m阶马尔可夫信源符号集共有q个符号，则信源共有个不同状态，对应于个长度为m的不同符号序列。定义m阶有记忆离散信源的数学模型可由一组信源符号集和一组条件概率确定：并满足且M=1时，称为一阶马尔可夫信源。m阶马尔可夫信源在任何时刻L，符号发生概率只于前M个符号有关，所以可设状态。由于均可取,的信源状态集则已知的条件概率可变换成下式。条件概率则表示任何L时刻信源处在状态时输出符号的概率。而可以取之一，所以可以简化成表示。而且当在L时刻，信源输出符号后，由符号序列组成了新的信源状态，信源所处的状态也由转移到。[例2-9]给定二元二阶马氏源，符号集A:{0,1}，符号转移概率分别为:确定该马氏源的状态，写出状态转移矩阵，画出信源的状态转移图。解:信源状态序列：符号转移概率与状态转移概率的对应如下：由题目可知，其它状态转移为零，因此其状态转移概率矩阵如下：2.6.2(1)马尔可夫信源的信息熵时齐的、遍历的马尔可夫信源的熵式中，是时齐的、遍历的马尔可夫状态链的极限概率(即马尔可夫信源稳定后(N→∞)各状态的极限概率)。它满足:2.6.2(2)M阶马尔可夫信源的信息熵时齐的、遍历的M阶马尔可夫信源的熵它是时齐、遍历m阶马尔可夫状态链的极限概率，是信源在足够长时间以后符号序列达到稳定后的m长符号序列的联合概率分布。它不等于起始的有限长时间段内的m维联合概率分布。2.6马尔可夫信源2.6马尔可夫信源例2.10一个二元二阶马尔可夫信源,其信源符号集为{0,1}。信源开始时：以p(0)=p(1)=0.5发出随机变量X1。下一单位时间：输出随机变量X2与X1有依赖关系。从第四单位时间开始，任一时刻随机变量只与前面二个单位时间的随机变量有依赖关系，即求：①信源状态转移情况和相应概率；②画出完整的二阶马尔可夫信源状态转移图；③求平稳分布概率；④马尔科夫信源达到稳定后，0和1的分布概率。00由题意,此马尔可夫信源的状态必然会进入这个不可约闭集,所以我们计算信源熵时可以不考虑过渡状态及过渡过程。由当马尔可夫信源达到稳定后,符号0和符号1的概率分布：m阶马尔可夫信源在起始的有限时间内，信源不是平稳和遍历/各态历经性的，状态的概率分布有一段起始渐变过程。经过足够长时间之后，信源处于什么状态已与初始状态无关，这时每种状态出现的概率已达到一种稳定分布。一般马尔可夫信源并非是平稳信源。但当时齐、遍历的马尔可夫信源达到稳定后，这时就可以看成是平稳信源。m阶马尔可夫信源是非平稳离散有记忆信源的一个特例。H∞并非在任何情况下都存在。对q元m阶马尔可夫信源来说，只有状态极限概率都存在时，方能计算出。