马尔可夫链课件学习教案.pptx
上传人:王子****青蛙 上传时间:2024-09-13 格式:PPTX 页数:66 大小:3.4MB 金币:10 举报 版权申诉
预览加载中,请您耐心等待几秒...

马尔可夫链课件学习教案.pptx

马尔可夫链课件学习教案.pptx

预览

免费试读已结束,剩余 56 页请下载文档后查看

10 金币

下载此文档

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

会计学第一节基本概念过程(或系统)在时刻t0所处的状态为已知的条件下,过程在时刻t>t0所处状态的条件分布(fēnbù)与过程在时刻t0之前所处的状态无关。通俗地说,就是在已经知道过程“现在”的条件下,其“将来”不依赖于“过去”。定义设随机过程的状态空间为:设是马尔可夫链,对任意的,计算的联合分布律注定义2设是马尔可夫链,若其一步转移概率与时间无关,即例1(一个(yīɡè)简单的疾病死亡模型)例2(0-1传输系统或简单信号模型)如图所示,只传输数字0和1的串联系统中,设每一级的传真率为p,误码率为q=1-p。并设一个单位时间传输一级,X0是第一级的输入,Xn是第n级的输出(n≥1),那么{Xn,n=0,1,2…}是一随机过程,状态空间S={0,1},而且当Xn=i为已知时,Xn+1所处的状态的概率分布只与Xn=i有关,而与时刻n以前所处的状态无关,所以它是一个马氏链,而且还是齐次的,它的一步转移概率和一步转移概率矩阵分别为:例3(带有一个吸收壁的随机游动)质点在直线上作随机游动.在某一时刻质点位于,则下一步质点以概率向右移动一格到达;或以概率向左移动一格到达.但当质点一旦到达原点,则质点永远停留在原点,不再移动.状态称为吸收态.以表示质点在时刻的位置.则是齐次马尔可夫链,称其为带一个吸收壁的随机游动.求其一步转移概率矩阵.解:马尔科夫链的的状态空间为:解:它的一步(yībù)转移概率矩阵为:例5(无限制随机游动)质点在直线上作随机游动.在某一时刻质点位于,则下一步质点以概率向右移动一格到达;或以概率向左移动一格到达.以表示质点在时刻的位置.则是状态无限的马尔科夫链,求其一步转移概率矩阵.称为马尔可夫链在时刻时处于状态经过时间后转移到状态的概率.称此式为切普曼-柯尔莫洛夫方程,简称C-K方程.i注四、n步转移概率(gàilǜ)、C-K方程例(天气预测简单模型)假设明天是否下雨仅与今天的天气(是否下雨)有关,而与过去的天气无关.假设今天下雨、明天有雨的概率为,今天无雨而明天有雨的概率为;又假设把有雨称为状态天气,把无雨称为状态天气.记表示第天的天气状态.则是状态有限的马尔科夫链.1.求其一步转移概率矩阵;2.若,且今天有雨,求第四天有雨的概率.解第二节状态(zhuàngtài)的分类及性质一、到达(dàodá)与相通一、到达(dàodá)与相通二、首达时间(shíjiān)与首达概率二、首达时间(shíjiān)与首达概率二、首达时间(shíjiān)与首达概率三、首达概率的基本(jīběn)性质三、首达概率的基本(jīběn)性质三、首达概率(gàilǜ)的基本性质三、首达概率(gàilǜ)的基本性质四、状态(zhuàngtài)的分类//应用全概率公式,得当初始状态为j时,则系统已经被吸收再j中;而当初始状态处于某一其他(qítā)吸收状态,例如在a,则系统将不再能被吸收到j,因而。另一重要的量是系统自某给定的初始状态开始到被吸收以前的平均时间。如果初始状态为i,令吸收的平均时间为mj,则此方程为一组线性联立方程式,因此可求得以转移概率表达(biǎodá)的平均吸收时间mj。可以看出,如果状态i为一吸收状态,则系统已处于吸收状态,此时,。第三节极限性态及平稳(píngwěn)分布第三节极限(jíxiàn)性态及平稳分布第三节极限(jíxiàn)性态及平稳分布第三节极限(jíxiàn)性态及平稳分布二、平稳(píngwěn)分布二、平稳(píngwěn)分布二、平稳(píngwěn)分布二、平稳(píngwěn)分布四、例子(lìzi)四、例子(lìzi)四、例子(lìzi)例雨伞(yǔsǎn)问题续0所以(suǒyǐ)该马氏链是遍历的不可约马氏链,故平稳分布存在且唯一.长时间后,概率与初始分布无关,近似于其平稳分布/小结:关于离散(lísàn)马氏链的分析例(离散分支过程)考虑一生物种群的繁殖.假设开始时种群的个体数为,称之为第代.由第代个体繁殖产生的后代称为第一代,第一代个体的数目记为.如此继续下去,第代个体繁殖产生的个体称为第代,第代个体的数目记为.假设同一代中各个个体繁殖产生的后代个数是相互独立的,且与种群以前的繁殖过程无关.每一个个体均可产生个后代,是非负整数值随机变量.则是齐次马尔科夫链.第代个体分支过程主要关心(guān〃xīn)的问题是:感谢您的观看(guānkàn)!内容(nèiróng)总结