上饶师范学院：《概率论与数理统计》课程教学资源（PPT课件）第六章 点估计 §6.2 极大似然估计

§6.2极大似然估计 极大似然估计法是求估计的另一种方法。 它最早由高斯提出。后来为费歇在1912年的 文章中重新提出，并且证明了这个方法的一 些性质。极大似然估计这一名称也是费歇给 的。这是一种上前仍然得到广泛应用的方法 它是建立在极大似然原理的基础上的一个统 计方法，极大似然原理的直观想法是：一个 随机试验如有若干个可能的结果A,B, C,…。若在一次试验中，结果A出现，则一 般认为试验条件对A出现有利，也即A出现的 概率很大。我们来看一个例子。（例题略）

§6.2 极大似然估计 极大似然估计法是求估计的另一种方法。 它最早由高斯提出。后来为费歇在1912年的 文章中重新提出，并且证明了这个方法的一 些性质。极大似然估计这一名称也是费歇给 的。这是一种上前仍然得到广泛应用的方法。 它是建立在极大似然原理的基础上的一个统 计方法，极大似然原理的直观想法是：一个 随机试验如有若干个可能的结果A，B， C，…。若在一次试验中，结果A出现，则一 般认为试验条件对A出现有利，也即A出现的 概率很大。我们来看一个例子。（例题略）

下面我们对连续型与离散型母体两种情形阐述 极大似然估计。 设1，2，…，为取自具有概率函数 f(x,:日E⊙)的母体专的一个子样。子样号1， 2，…，专的联合概率函数在，取已知观测值 X;,=l,n时的值f(x1:)f(x2;)…f(x:)是 的函数。我们用L(日)=L(9:X1,…，X:） 表示，称作这个子样的似然函数。于是

L(8)=L(8;x1,…,xx) =f(x1)f(x2;)…f(x;) (6.8)gzs 如果是离散型母体，L（8;X1,…，Xx)】 给出观测倒(X1,X2，…，X。）的概率。因此， 可以把L(日；X1,…,X.)看成为了观测倒(X1, X2,…,X）时出现什么样9的可能性的一个测

度。所以我们只要寻找这样的观测值(X1,X2，…, X）的函数月=月(X1，…,Xx),以日代8使 L(8;X1,…,Xw）=spL(8; 8a0 X1,…,Xx） (6.9) 成立。满足(69)式的日(X1，…，X)就是最 可能产生X1，…,X的参数日的值。我们称日

(X1,…,Xx)为参数日的极大似然估计值，其 相应的统计量合（传，…，5）称作参数日的极大似然估 计呈。 如果号是连续型，f(x1:),8∈④表示密度 函做。于是子样(51…，5a)落入点(X1,…,X) 的邻域内的概率为∏f(x;日)△x,同样是日的函 i1 数。既然(X1，…，Xx)在一次抽样中出现，当

然可以认为子样（传1…，5m)落在(X1，…，X） 的邻域内的概率达到最大。所以我们只要找出使 ΠJ(x;8)Ax:达到最大的8的值a(X1，… Xx)。由于△x是不依赖于8的增量，我们也只须求 出使得zs Z(8,x1,…,xg)=f(x,8)△x 达到最大值的，便可得到极大似然估计。综上所述知

道，连续型母体的参数的极大似然估计同样可以用 (6.8)与(6.9)两式表示。 由于x是x的单调增还数，使 lmL8(X1,…,Xw）=sup inL(X1,…, 8c@ (6.10) 成立的日也使(6.9)成立，折以有时我们只要从(6. 10)中求8就好了。（例题略） 极大似然估计有一简单而有用的性质

性质设为f(x:)中参数8的极大似然 估计，并且函数1=u(日)具有反函数日=日(u),则这= u(日)是8)的极大似然估计。这里8∈④，u为u ()的值域。（证明略） 极大似然估计量还有一个重要性质渐近正态 性，这对以后在大子样情形求参数的区间估计和进行 假设检验时很有用。杜克首先提出这一性质的证明。 下面我们对连续型随机变量以定理的形式叙述这一性 质。对离散型随机变量，只要以求和号代积分号，便 可得到类似的定理

定理6.1设随机变量具有密度函数 f(x,),未知参数日∈Φ，重为非退化区间，假定 (1)对于任何一个日∈Φ和任一个数x偏导数 a1og,1ogf和01og1存在， 2o 082 083 (2)对于玉中每一个日值，不等式 <(, <F(x)(6.19) 成立，其中函数F1(x),F2(x)在整个数轴上

(-c0,0)可积，而函数F,(x)满足不等式 ()f(;0)dx<M (6.20) 其中M与8无关； (3)对于Φ中每一个8， alog)2]- logf:i<n (6.21)