长安大学：《概率统计》课程电子教案（PPT教学课件）第七章 参数估计（7.2）估计量的评价标准

§7.2估计量的评价标准 。 >三,有 >三。令

872估计量的评价标准 上一节我们看到,对于总体X的同一个 王未知参数,由于采用的估计方法不同, 能会产生多个不同的估计量.这就提出 个问题,当总体的一个参数存在不同的估 庄计量时,究竟采用哪一个好呢?或者说怎 样评价一个估计量的统计性能呢?下面给 王出几个常用的评价准则 ·无偏性 上页

§7.2 估计量的评价标准 上一节我们看到，对于总体X的同一个 未知参数，由于采用的估计方法不同，可 能会产生多个不同的估计量．这就提出一 个问题，当总体的一个参数存在不同的估 计量时，究竟采用哪一个好呢？或者说怎 样评价一个估计量的统计性能呢？下面给 出几个常用的评价准则． 一．无偏性

对于待估参数,不同的样本值就会得到不同 的估计值.这样,要确定一个估计量的好坏,就 不能仅仅依据某次抽样的结果来衡量,而必须由 大量抽样的结果来衡量.对此,一个自然而基本 王的衡量标准是要求估计量无系统偏差,也就是说, 待估参数的真值,但在大量重复抽样时,所得到 的估计值平均起来应与待估参数的真值相同.换 句话说,我们希望估计量的均值(数学期望)应 等于未知参数的真值,这就是所谓无偏性 ( Unbiasedness要求 定义71设是来自总体x的一个样本,0=0(x,x2…X 上页

对于待估参数，不同的样本值就会得到不同 的估计值．这样，要确定一个估计量的好坏，就 不能仅仅依据某次抽样的结果来衡量，而必须由 大量抽样的结果来衡量．对此，一个自然而基本 的衡量标准是要求估计量无系统偏差．也就是说， 尽管在一次抽样中得到的估计值不一定恰好等于 待估参数的真值，但在大量重复抽样时，所得到 的估计值平均起来应与待估参数的真值相同．换 句话说，我们希望估计量的均值（数学期望）应 等于未知参数的真值，这就是所谓无偏性 (Unbiasedness)的要求． 定义7.1 设是来自总体X的一个样本， ( ) X X Xn , , , ˆ ˆ  = 1 2 

王是总体参数O的一个估计量,若 Eb=b(7-7) 王则称是的无偏估计量 Unbiased Estimator) 个估计量如果不是无偏的就称它是 4有偏估计量E0-0称为估计量的偏差 无偏估计的实际意义就是无系统偏差 估 王是否无偏是评价估计量好坏的一个重 若EO≠0,但有mEO=b,则称是O n→00 的渐近无偏估计 上页

是总体参数 的一个估计量，若 （7-7） 则称 是 的无偏估计量(Unbiased Estimator)． 一个估计量如果不是无偏的就称它是 有偏估计量． 称为估计量 的偏差. 无偏估计的实际意义就是无系统偏差．估 计量是否无偏是评价估计量好坏的一个重 要标准． 若 ，但有 ，则称 是 的渐近无偏估计．   = E ˆ  ˆ   − E ˆ  ˆ    E ˆ  =  → ˆ lim E n  ˆ 

二.有效性 比较两个无偏估计量优劣的一个重要 王标准就是观察它们哪一个取值更集中于待 估参数的真值附近,即哪一个估计量的方 差更小,这就是下面给出的有效性 ( Effectiveness)概念 千定义72设x)与=xx都是总 体参数θ的无偏估计,若D)≤D)(7-8) 庄则称a比a2更有效 上页

二．有效性 比较两个无偏估计量优劣的一个重要 标准就是观察它们哪一个取值更集中于待 估参数的真值附近，即哪一个估计量的方 差更小，这就是下面给出的有效性 (Effectiveness)概念． 定义7.2 设 与 都是总 体参数 的无偏估计，若 （7-8） 则称 比 更有效． ( ) X X Xn , , , ˆ ˆ 1 =1 1 2  ( ) X X Xn , , , ˆ ˆ  2 =  2 1 2   ( ) ( ) 1 2 ˆ ˆ D   D  1 ˆ  2  ˆ

在O的所有无偏估计量中如果存在 上一个估计盘,它的方差最小,则此估计 量应当最好,并称此估计量为的最 小方差无偏估计,也称其为最有效的.可 以证明,对于正态总体o2)kS2是a2 用0估计时,除无系统偏差外,还 需考虑估计的精度 王三.相合性 上页

三． 相合性 在 的所有无偏估计量中，如果存在 一个估计量 ，它的方差最小，则此估计 量应当最好，并称此估计量 为 的最 小方差无偏估计，也称其为最有效的．可 以证明，对于正态总体 ， 是 的最小方差无偏估计．有效性的意义是， 用 估计 时，除无系统偏差外，还 需考虑估计的精度．  0 ˆ  0 ˆ   ( ) 2 N , 2 X, S 2 ,  ˆ 

估计量O的无偏性和有效性都是在样 本容量n定的情况下讨论的.由于估计量 和样本容量n有关,我们自然希望当n很大 时,一次抽样得出的的6值能以很大的概 率充分接近被估参数,这就提出了相合 平性 Consistency)(一致性)的要求 庄定义73设x)是总体参数O的估计 量,如果对任意E>0都有 lim p -0<a6}=1(79) n→)+ 则称O是O的相合估计量(或一致估计量) 上页

估计量 的无偏性和有效性都是在样 本容量n固定的情况下讨论的．由于估计量 和样本容量n有关，我们自然希望当n很大 时，一次抽样得出的的 值能以很大的概 率充分接近被估参数 ，这就提出了相合 性(Consistency)（一致性）的要求． 定义7.3 设 是总体参数 的估计 量，如果对任意 都有 （7-9） 则称 是 的相合估计量（或一致估计量）  ˆ  ˆ  ˆ  ( , , , ) ˆ ˆ 1 2 n  = X X  X    0   1 ˆ lim −  = →+ P    n  ˆ 

由第五章定义52及(7-9知,是 的相合估计就意味着O依概率收敛于θ 根据大数定律,无论总体X服从什么分布, 只要其k阶原点矩=EX存在,则对任意E>0 都有 lim p xk-Ex 午所以样本的阶原点矩4=∑x始终是总 王体价原点矩八的相合估计进一步地:可 以证明:只要相应的总体矩存在:矩估计 必定是相合估计.特别地,=X总是=EX 王的相合估计样本方差S2和样本的二阶中 上页

由第五章定义5.2及（7-9）知， 是 的相合估计就意味着 依概率收敛于 . 根据大数定律，无论总体X服从什么分布， 只要其k阶原点矩 存在，则对任意 都有 所以样本的k阶原点矩 始终是总 体k阶原点矩 的相合估计. 进一步地, 可 以证明：只要相应的总体矩存在，矩估计 必定是相合估计．特别地， 总是 的相合估计, 样本方差 和样本的二阶中  ˆ  ˆ   k  k = EX   0 1 1 lim 1 =        −  = →  n i k k i n X EX n P = = n i k k Xi n A 1 1 k  ˆ = X  = EX 2 S

王心矩s都是总体方差σ的相合估计S 和S又都是O的相合估计 由相合性定义可以看出,若日是的 相合估计,当样本容量很大时,一次抽样 得到的值便可作为日的较好近似值 工工工 上页

心矩 都是总体方差 的相合估计， 和 又都是 的相合估计． 由相合性定义可以看出，若 是 的 相合估计，当样本容量很大时，一次抽样 得到的 值便可作为 的较好近似值． 2 Sn 2  S n S   ˆ  ˆ  