如果您无法下载资料,请参考说明:
1、部分资料下载需要金币,请确保您的账户上有足够的金币
2、已购买过的文档,再次下载不重复扣费
3、资料包下载后请先用软件解压,在使用对应软件打开
2.2.2基于基于最小最小风险的贝叶斯决策风险的贝叶斯决策上述思想一般化推广¾采用多个特征(特征矢量);上述分类基于错误率最小化的所得到规则,但有¾类别状态多于两个;时要考虑比错误率更广泛的概念时要考虑比错误率更广泛的概念----------风险。风险与¾决策行动不局限于判定类别状态。损失密切相连。¾引入损失函数(lossoffunction)代替误差概率。比如对细胞分类固然尽可能正确判断,但判错了的后果将怎样?正常→异常:精神负担;决策行为不是以错误分类的概率为基础,异异常常→正正常:失去进一步治疗的机会。常:失去进一步治疗的机会。而是行为风险的代价为决策依据。显然这两种不同的错误判断所造成损失的严重程度是有显著差别的度是有显著差别的,,后者的损失比前者更严重后者的损失比前者更严重。。损失函数(lossfunction)状态表示每次采取最小风险贝叶斯决策正是考虑各种错误造成损失行动的代价。不同而提出的一种决策规则不同而提出的一种决策规则。。12设{ω,,ω,…,ω}是c个类别的集合(状态)。“损失函数””::表示当真实状态为ωi时而采12c设是种种采取的决策行为。采取的决策行为。取的决策行为为αj时所带来的损失时所带来的损失((风险风险))。。{α1,α2,…,αa}a记λ(αi|ωj)(损失函数)是类别状态为ωj时采用已知先验概率P(ωj)、类条件概率密度决策行为αi的风险。p(x/ωj),由贝叶斯公式,得后验概率P(ωj/x)对于i=1,…,a,条件风险R(αi|x)定义为:c引入损失概念引入损失概念,,考虑错判所造成损失考虑错判所造成损失,,不不RP()αλαωωiijjxx=⋅∑()()能只由后验概率的大小来决策能只由后验概率的大小来决策,,而应考虑所而应考虑所j=1采取决策是否使损失最小采取决策是否使损失最小。。它是在c个类别状态中任取某个状态ωj时,采用决策αi的风险λ(αi|ωj)相对于后验概率P(ω/x)/x)的条件期望。的条件期望。3j4RE(/x)[(αλαω=)]iij条件风险是反映了对于给定观察值观察值xx,,采取采取决c策αi所带来的风险所带来的风险。。对于对于i==11,,……,,a所有的决策行动==∑λα(ijω)Pxi(ωj),1,2,....,Cj=1中中,,能否根据最小条件风险来决定判别规则能否根据最小条件风险来决定判别规则??观察值是随机向量是随机向量,,不同的不同的观察值,,采取采取xx如果在采取每一个决策或行动时,都使其条件风决策时时,,其条件风险的大小是不同的其条件风险的大小是不同的。。所以所以,αi险最小,则对给定的观察值观察值xx作出决策时,其期究竟采取哪一种决策将随的取值而定。x望风险也必然最小。这样的决策就是最小风险贝决策α看成随机向量x的函数的函数,,因此因此,,它也是它也是叶斯决策。其规则为:一个随机变量一个随机变量。。条件风险R(αi|x|x))反映给定的观察值察值xx,,采取采取决策时时,,所有类别状态下带来所有类别状态下带来IfR(x)minααkk=R(x)αii=1,...,α{}风险的平均值风险的平均值。。thenαα=k56TECH*ED?4最小风险贝叶斯决策步骤注意:最小风险贝叶斯决策除了先验概1.已知先验概率P(ωj)、、类条件概率密度类条件概率密度率P(ωj)和类条件概率密度p(x/ωj)外外,,还还p(x/ωj),并给出待识别的x,,根据贝叶斯公根据贝叶斯公需要有合适的损失函数λ(αj,,ωj)。式式,,计算出后验概率计算出后验概率P(ωj/x)。在实际中,要列出合适的决策表很不容2.后验概率P(ω/)/x)与损失函数,计算出每个j易易,,要根据所研究的具体问题要根据所研究的具体问题,,分析错分析错条件期望风险R(αi/x)(一共有a个决策)。误决策造成损失的严重程度误决策造成损失的严重程度,,与有关的与有关的33..在a个R(αi/x)相互比较相互比较,,找出最小的决策找出最小的决策αk,完成最小风险贝叶斯决策完成最小风险贝叶斯决策。。专家共同商讨来确定专家共同商讨来确定。。78两类分类问题将两类分类的风险条件代入上述决策规则,其等价于:α1:对应于类别判别ω1;α2:对应于类别判别ω2。如果:(λ21-λ11)P(x|ω1)P(ω1)>(λ12-λ22)P(x|ω2)P(ω2)λij=λ(αi||ωj)表示当实际类别为ωj时误判为ωi所引起的损失。条件风险:则:判决ω1;否则为:ω2R(α1|x)=λ11P(ω1|x)+λ12P(ω2|x)Px(|ω