北京邮电大学信息工程学院：《模式识别导论》课程教学资源（PPT课件讲稿）第二章 判别函数

第二章判别函数 §2-1、判别函数 §2-2、线性判别函数 §2-3、线性判别函数的性质 §2-4、广义线性判别函数 §2-5、非线性判别函数 ①年大辱 信息工程学

信息工程学 院 Ø § 2-1、判别函数 Ø § 2-2、线性判别函数 Ø § 2-3、线性判别函数的性质 Ø § 2-4、广义线性判别函数 Ø § 2-5、非线性判别函数 第二章 判别函数

§2-1判别函数 ◆假设对一模式X已抽取n个特征,表示为: X=(x1,x2,x3 5···2 X是n维空间的一个向量 ◆模式识別问题就是根据模式n个特征来判 别模式属于o1,o2,…,om类中的那一类 ③犬辱信息工程学

信息工程学 院 v 假设对一模式X已抽取n个特征，表示为： v 模式识别问题就是根据模式X的n个特征来判 别模式属于ω1 ,ω2 ,… ,ωm 类中的那一类。 ا 2-1 判别函数 是 n维空间的一个向量 ( , , ,..., ) 1 2 3 X X x x x x T  n

§2.1判别函数(续 例如下图:三类的分类问题,它们的边界线就是 个判别函数 边界 ①年大辱 信息工程学

信息工程学 院 v例如下图：三类的分类问题，它们的边界线就是一 个判别函数  1  2 边界  3 2 x 1 x ا2.1 判别函数（续 ）

§2.1判别函数(续 判别函数包含两类: 类是线性判别函数: 线性判别函数 广义线性判别函数 (所谓广义线性判别函数就是把非线性判 别函数映射到另外一个空间变成线性判别 函数) 分段线性判别函数 另一类是非线性判别函数 ①年大辱 信息工程学

信息工程学 院 v 判别函数包含两类： v一类 是线性判别函数： Ø线性判别函数 Ø广义线性判别函数 （所谓广义线性判别函数就是把非线性判 别函数映射到另外一个空间变成线性判别 函数） Ø分段线性判别函数 v另一类是非线性判别函数 ا2.1 判别函数（续 ）

§2-2线性判别函数 我们现在对两类问题和多类问题分别进行讨论 (一)两类问题即 0.0 ◆1.二维情况:取两个特征向量 X=(x1,x2) T n=2 令这种情况下判别函数: g(x)=wr+w2x2+w3 p为参数,x12x2为坐标向量 ③犬辱信息工程学

信息工程学 院 ا 2-2 线性判别函数 v 我们现在对两类问题和多类问题分别进行讨论。 v (一)两类问题 即: v v1. 二维情况 ：取两个特征向量 v 这种情况下 判别函数: ( , ) , 2  1 2 M  T  i   X  ( x1 , x 2 ) , n  2 T 1 1 2 2 w3 g( x )wx w x  w为参数， x1 , x 2为坐标向量

1.二维情况 令在两类别情况,判别函数g(x)具有以下性质 0,X∈O1 8;(x) <0,X∈O2 g(x)=0,X不定 这是二维情况下判别由判别边界分类 ◆情况如图: □ g(x)=Wx1+12x2+3 ①年大辱 信息工程学

信息工程学 院 v在两类别情况，判别函数 g (x) 具有以下性质： v这是二维情况下判别由判别边界分类. v情况如图： Ø1. 二维情况         2 1 0, 0, ( )   X X g x i g ( x )  0, X 不定 1 1 2 2 3 g(x)  w x  w x  w  2  1 1 x 2 x  

2.n维情况 现抽取n个特征为: X=(x1,x2,x32xn2) 判别函数:g(=+1+…+Vx2+1 W。X+ n+1 W=(1W1,w2,wn)为权向量, X=(x12x2,xn)为模式向量 另外一种表示方法:g(x)=WX W=(,W2…,wn,n)为增值权向量, X=(x1,x2…,x,xn+1)为增值模式向量 ③钾大辱 信息工程学

信息工程学 院 Ø2. n维情况 v 现抽取n个特征为： v 判别函数： v 另外一种表示方法： T n X ( x , x , x ,... x )  1 2 3 1 1 2 2 1 ( ) ......     n nwn g x wx wx wx  W 0 X  wn 1 ＝ ， 为增值模式向量。 为增值权向量， T n n T n n X x x x x W w w w w ( , ,..., 1) ( , ,..., , ) 1 2 1 2 1    g x W X T ( )  ＝ 为模式向量。 为权向量， T n T n X x x x W w w w ( , ,..., ) ( , ,..., ) 1 2 0  1 2

2.n维情况 ◆模式分类: 0,x∈m g(x)=w x X∈O 今当81(x)=WX=0为判别边界。当n=2时,二维 情况的判别边界为一直线。当n=3时,判别边界 为一平面,n>3时,则判别边界为一超平面 ①年大辱 信息工程学

信息工程学 院 v模式分类： v当 g1(x) =WTX=0 为判别边界 。当n=2时，二维 情况的判别边界为一直线。当n=3时，判别边界 为一平面，n>3时，则判别边界为一超平面。         2 1 0 , 0 , ( )   x x g x W X T Ø2. n维情况

(二)多类问题 对于多类问题,模式有o1,02,Om个类别。可分 三种情况: 1。第一种情况:每一模式类与其它模式类间可用单 个判别平面把一个类分开。这种情况,M类可有M个判 别函数,且具有以下性质: >0.X∈O 8(x)=W1X <0,其它,i=1,2,,M 式中W=(11,2…,m,Wmn1,)为第个判别函数的 权向量。 ③犬辱信息工程学

信息工程学 院 Ø(二) 多类问题         其它 i M。 X g x W X T i i i 0, , 1,2,..., 0, ( )  v 对于多类问题，模式有 ω1 ,ω2 ,… ,ωm 个类别。可分 三种情况： Ø 1。第一种情况：每一模式类与其它模式类间可用单 个判别平面把一个类分开。这种情况，M类可有M个判 别函数，且具有以下性质： 权向量。 式中Wi  (wi1 , wi 2 ,..., win , win1 ,) T 为第i个判别函数的

1。第一种情况 右图所示,每一类别可用单个判别边界与其它类别相分 开 冷如果一模式属于o1,则由图可清楚看出:这时g1(x)>0而 2(x)<0,g3(x)<0。o1类与其它类之间的边界由 g;(x)=0确定 g1(x)=0 83(x)=0 ①年大辱 信息工程学

信息工程学 院 v 右图所示，每一类别可用单个判别边界与其它类别相分 开 。 v 如果一模式X属于ω1，则由图可清楚看出:这时g1(x) >0而 g2(x) <0 ， g3(x) <0 。 ω1 类与其它类之间的边界由 g1(x)=0确定.  2 1 x       ( ) 0 g2 x  ( ) 0 g3 x  2 x ( ) 0 g1 x   1  3 Ø1。第一种情况