北京大学：《模式识别》课程教学资源（课件讲义）第二章 Bayes决策理论

第二章 Bayes决策理论 20引言 ■2.1基于最小错误率的 Bayes决策 2.2基于最小风险的 Bayes决策 2.3正态分布的最小错误率 Bayes决策 24说明

第二章 Bayes决策理论 „ 2.0 引言 „ 2.1 基于最小错误率的Bayes决策 „ 2.2 基于最小风险的Bayes决策 „ 2.3 正态分布的最小错误率Bayes决策 „ 2.4 说明

20引言

2.0 引言

20引言 ■统计决策理论——根据每一类总体的概 率分布决定决策边界 ■ Bayes决策理论是统计决策理论的基本方 法 每一类出现的先验概率 类条件概率密度

2.0 引言 „ 统计决策理论——根据每一类总体的概 率分布决定决策边界 „ Bayes决策理论是统计决策理论的基本方 法 „ 每一类出现的先验概率 „ 类条件概率密度

20引言 ■例:医生要根据病人血液中白细胞的浓 度来判断病人是否患血液病 两类的识别问题。 ■根据医学知识和以往的经验医生知道:

2.0 引言 „ 例：医生要根据病人血液中白细胞的浓 度来判断病人是否患血液病。 „ 两类的识别问题。 „ 根据医学知识和以往的经验医生知道：

20引言 患病的人,白细胞的浓度服从均值200,方差1000的 正态分布;未患病的人,白细胞的浓度服从均值700, 方差3000的正态分布; 般人群中,患病的人数比例为0.5 ■一个人的白细胞浓度是3100,医生应该做出怎 样的判断?

2.0 引言 „ 患病的人，白细胞的浓度服从均值2000，方差1000的 正态分布；未患病的人，白细胞的浓度服从均值7000， 方差3000的正态分布； „ 一般人群中，患病的人数比例为0.5%。 „ 一个人的白细胞浓度是3100，医生应该做出怎 样的判断？

20引言 ■数学表示 用Ω表示“类别这一随机变量,a1 表示患病,O2表示不患病;X表示 白细胞浓度这个随机变量,x表示 浓度值

2.0 引言 „ 数学表示： 用 表示“类别”这一随机变量， 表示患病， 表示不患病； 表示 “白细胞浓度”这个随机变量， 表示 浓度值。 Ω ω1 ω2 X x

20引言 ■例子中,医生掌握的知识非常充分,他 知道: 类别的先验分布: P(C2=01)=0.5% P(9=O2)=99.5 先验分布:没有获得观测数据(病人白细 胞浓度)之前类别的分布;

2.0 引言 „ 例子中，医生掌握的知识非常充分，他 知道： „ 类别的先验分布： 先验分布：没有获得观测数据（病人白细 胞浓度）之前类别的分布； P(Ω =ω1) = 0.5% P(Ω =ω2 ) = 99.5%

20引言 观测数据白细胞浓度分别在两种情况下的类 条件分布: p(X|2=01)~N(201000 p(X|=02)~N(70003000 ■已知先验分布和观测值的类条件分布, Bayes决策理论是最优的

2.0 引言 „ 观测数据白细胞浓度分别在两种情况下的类 条件分布： „ 已知先验分布和观测值的类条件分布， Bayes决策理论是最优的。 ( | ) ~ (2000,1000). p X Ω =ω1 N ( | ) ~ (7000,3000). p X Ω =ω2 N

20引言 ■决策的概念: 决策是从样本空间S,到决策空间⊙ 的一个映射, D:S→⊙ 对于刚才的例子,样本空间就是白细胞 浓度的取值范围,决策空间⊙={01,O2}

2.0 引言 „ 决策的概念： 决策是从样本空间 ，到决策空间 的一个映射， 对于刚才的例子，样本空间就是白细胞 浓度的取值范围，决策空间 D : S → Θ. S Θ { , } Θ = ω1 ω2

20引言 评价决策有多种标准,对于同一个问题, 采用不同的标准会得到不同意义下“最优” 的决策。 Baye决策是所有识别方法的一个基准 (Benchmark) ■ Bayes决策两种常用的准则: ■最小错误率 最小风险

2.0 引言 „ 评价决策有多种标准，对于同一个问题， 采用不同的标准会得到不同意义下“最优” 的决策。 „ Bayes决策是所有识别方法的一个基准 （Benchmark）。 „ Bayes决策两种常用的准则： „ 最小错误率； „ 最小风险