《概率论与数理统计》课程教学资源（PPT课件）第七章 参数估计 7.2 估计量的评选标准

72估计量的许运标准 一、无偏性 二、有效性 二、相合性 2024年8月27日星期二 2 目录○ (上页 下页 返回

2024年8月27日星期二 2 目录 上页 下页 返回 7.2 估计量的评选标准 一、无偏性 二、有效性 二、相合性

问题的提出 从上一节可以看到，对于同一个参数，用不 同的估计方法求出的估计量可能不相同.而且， 很明显，原则上任何统计量都可以作为未知参数 的估计量 问题 ()对于同一个参数究竞采用哪一个估计量好？ 2)评价估计量的标准是什么？ 下面介绍几个常用标准. 2024年8月27日星期二 3 目录○ 上页> 下页 、返回

2024年8月27日星期二 3 目录 上页 下页 返回 问题的提出 从上一节可以看到, 对于同一个参数, 用不 同的估计方法求出的估计量可能不相同. 而且, 很明显, 原则上任何统计量都可以作为未知参数 的估计量. 问题 (1)对于同一个参数究竟采用哪一个估计量好? (2)评价估计量的标准是什么? 下面介绍几个常用标准

一、无偏性 定义1设(X,X2,.,Xn)是未知参数0的一个估计量， 若 E[武X,X,.,X)】]=0 对所有0∈⊙成立，则称(X,X,X)为0的无偏估计 量(unbiased estimator),否则称fX,X,X,)为0的 有偏估计量(biased estimator). 在科学技术中，E0-0称为以0作为0的估计的系 统误差(system error).无偏估计的实际意义就是无系 统误差. 2024年8月27日星期二 目录○ 上页 下页 返回

2024年8月27日星期二 4 目录 上页 下页 返回 一、无偏性 定义1 设 1 2 ˆ ( , , , )  X X X n 是未知参数  的一个估计量， 若 1 2 ˆ ( , , , ) , E X X X   n   =   对所有 成立，则称 1 2 ˆ ( , , , ) X X X n  为 的无偏估计 量(unbiased estimator)，否则称 1 2 ˆ ( , , , ) X X X n  为 的 有偏估计量(biased estimator)． 在科学技术中， E ˆ  − 称为以 ˆ  作 为 的估计的系 统误差(system error)．无偏估计的实际意义就是无系 统误差．

【例10】设总体X的数学期望为4（未知)， X1,X2,.,Xn为取自总体X的样本，试判断统计量 又-之x和7-立aX是否为4的无偏估计量，其中 a,(i=1,2.,m为常数且∑a=1. 解由盛-之x2x,之“=4， BT-6ax -atx,-San-uza-u. 得，统计量和T都是山的无偏估计量， 2024年8月27日星期二 目录 上页 下页 返回

2024年8月27日星期二 5 目录 上页 下页 返回 【 例 10 】 设总体 X 的数学期望为  ( 未 知 ) ， 1 2 , , , X X Xn 为取自总体 X 的样本，试判断统计量 1 1 n i i X X n = =  和 1 n i i i T X  = =  是否为  的无偏估计量，其中 ( 1,2 , ) i  i n = 为常数且 1 1 n i i  =  = ． 解 由 1 1 1 1 1 1 n n n i i i i i EX E X EX n n n   = = =   = = = =        ， 1 1 1 1 n n n n i i i i i i i i i i ET E X EX        = = = =   = = = = =         ， 得，统计量 X 和T 都是 的无偏估计量．

【例11】设总体X的数学期望、方差均未知， X,X2,.,X,为取自总体X的样本，证明样本方差 分2〔x灯为心的无偏估计，而祥本二阶中 心矩B,=∑(X,-)'不是σ的无偏估计. 证明 由第六章的定理3知 "心e-a2l ES2=02 即S2是σ2的无偏估计， 2024年8月27日星期二 6 目录○ 上页 下页 返回

2024年8月27日星期二 6 目录 上页 下页 返回 【 例 11】 设总体 X 的数学期望、方差均未知， 1 2 , , , X X Xn 为取自总体 X 的样本，证明样本方差 ( ) 2 2 1 1 1 n i i S X X n = = − −  为 2  的无偏估计，而样本二阶中 心矩 ( ) 2 2 1 1 n i i B X X n = = −  不是 2  的无偏估计． 证明 由第六章的定理3知 2 2 2 ( 1) ~ ( 1), n S  n  − − 2 2 ( 1) 1, n S E n    − = −     2 2 ES = . 即 2 S 是 2  的无偏估计．

二、有效性 比较参数0的两个无偏估计量0和6，如果 在样本容量相同的情况下，的观察值在真值 0的附近较⊙，更密集，则认为0较0，有效. 由于方差是随机变量取值与其数学期望的 偏离程度，所以无偏估计以方差小者为好. 2024年8月27日星期二 7 目录○ 上页> 下页 。返回

2024年8月27日星期二 7 目录 上页 下页 返回 二、有效性 . ˆ ˆ , ˆ ˆ , , ˆ ˆ 2 1 2 1 1 2 的附近较 更密集 则认为 较 有效 在样本容量 相同的情况下 的观察值在真值 比较参数 的两个无偏估计量 和 如果         n 由于方差是随机变量取值与其数学期望的 偏离程度, 所以无偏估计以方差小者为好

定义2设0，日，均为未知参数0的无偏估计量，若 D(01)<D(0,),则称0比8，有效. 【例12】设总体X的期望和方差分别为4，o2, X,X2,X3,X4为来自X的样本，证明 =x+2 +x+x, 02=。X X3+。X4, 都是u的无偏估计量，但0比，有效. 2024年8月27日星期二 8 目录 上页 下页 返回

2024年8月27日星期二 8 目录 上页 下页 返回 定 义 2 设 1 ˆ  ， 2 ˆ  均为未知参数 的无偏估计量，若 1 2 ˆ D D ( ) ( )    ，则称 1 ˆ  比 2 ˆ  有效． 【 例 12】设总体 X 的期望和方差分别为  ， 2  ， 1 2 3 4 X X X X , , , 为来自 X 的样本，证明 1 1 2 3 4 1 1 1 1 ˆ 4 4 4 4  = + + + X X X X ， 2 1 2 3 4 1 1 1 1 ˆ 8 4 2 8  = + + + X X X X ， 都是  的无偏估计量，但 1 ˆ  比 2 ˆ  有效．

三、相合性 定义3设(X,X2,.,Xn)为参数0的估计量，若对于 任意给定的ε>0，都有 imP{la-≥e}=0, 即0依概率收敛于参数0，则称0为0的相合估计量 (consistent estimator)或一致估计量. 【例13】证明：设0为0的无偏估计量，若成立 1imD(0)=0,则0为0的相合估计量. n→o 2024年8月27日星期二 9 目录 上页> 下页 返回

2024年8月27日星期二 9 目录 上页 下页 返回 三、相合性 定义 3 设 1 2 ˆ ( , , , )  X X X n 为参数  的估计量，若对于 任意给定的   0，都有   ˆ lim 0 n P    → −  = ， 即 ˆ  依概率收敛于参数 ，则称 ˆ  为 的相合估计量 (consistent estimator)或一致估计量． 【 例 13】证明：设 ˆ  为  的无偏估计量，若成立 ˆ lim ( ) 0 n D  → = ，则 ˆ  为 的相合估计量．

证明由切贝雪夫不等式可知，对任意ε>0，都有 rjo dz 由limD(0)=0得 limP0-d≥c=0. 因此，0为0的相合估计量. 相合性是对一个估计量的基本要求，若估计量不具 有相合性，那么，无论将样本容量取得多么大，都不 能保证将0估计得足够准确，这样的估计量是不可取的. 2024年8月27日星期二 10 目录○ 、上页 下页 返回

2024年8月27日星期二 10 目录 上页 下页 返回 证明 由切贝雪夫不等式可知，对任意  0，都有   2 ˆ ( ) ˆ D P      −   由 ˆ lim ( ) 0 n D  → = 得   ˆ lim 0 n P    → −  = ． 因此， ˆ  为 的相合估计量． 相合性是对一个估计量的基本要求，若估计量不具 有相合性，那么，无论将样本容量 n取得多么大，都不 能保证将 估计得足够准确，这样的估计量是不可取的．

对于矩估计量，由§6.1节可知，样本k阶矩A是 总体k阶矩4，=E(X)的相合估计量，进而若待估参数 日=g(4,42,.,),其中g为连续函数，则0的矩估计 量8=g(41,42,.,4)=g(A,A,.,A)是0的相合估计 量. 极大似然估计量在一定的条件下也具有相合性. 另外，相合性是在样本容量趋近于无穷大时的性 质，是从极限的角度来衡量的一个标准，属大样本性 质. 2024年8月27日星期二 11 目录○ 、上页 下页 返回

2024年8月27日星期二 11 目录 上页 下页 返回 对于矩估计量，由§6．1 节可知，样本 k 阶矩 Ak 是 总体k 阶矩 ( ) k k = E X 的相合估计量，进而若待估参数 1 2 ( , , , ) k     = g ，其中 g 为连续函数，则 的矩估计 量 1 2 1 2 ˆ ( , , , ) ( , , , ) k k     = = g g A A A 是 的相合估计 量． 极大似然估计量在一定的条件下也具有相合性． 另外，相合性是在样本容量趋近于无穷大时的性 质，是从极限的角度来衡量的一个标准，属大样本性 质．