《概率论与数理统计》课程教学资源（课件讲稿）第七章 参数估计（刘亚平）

第七章 参数估计 开课系:数学学院 主讲教师:刘亚平 Email:yapingliu66@tom.com

第七章 参数估计 开课系：数学学院 主讲教师：刘亚平 Email:yapingliu66@tom.com

§71点估计 定义7.1.1设总体X分布函数为F(x;θ),θ∈6。其 中0为未知参数,⊙为参数空间,X,…,Ⅺ是X的 个样本,观察值为x1,x?。构造统计量x1 ,x),用它的观察值(x1,x2,…,x)来估计未 知参数,则称(x1,x2…,xn)为的一个估计值, 称0(x1,…,x)为的一个估计量,它是一个随机变 量。简记为0 F(x;时)也可用分布律或密度函数代替

§7.1 点估计 F(x;θ)也可用分布律或密度函数代替. 定义7.1.1 设总体X分布函数为F(x; θ), θ∈Θ。其 中θ为未知参数, Θ为参数空间, X1， … ， Xn是X的一 个样本，观察值为x1，x2，…，xn。构造统计量 (X1， … ， Xn)，用它的观察值 (x1，x2，…，xn)来估计未 知参数θ, 则称 （x1，x2，…，xn）为θ的一个估计值， 称 (X1， … ， Xn)为θ的一个估计量，它是一个随机变 量。简记为 ˆ θ ˆ θ ˆ θ ˆ θ ˆ θ

点估计的一般方法是矩估计法与极大似然法。 矩估计法 基本原理:用样本矩作为总体同阶矩的估计, m,=E(X)=∑X=

点估计的一般方法是矩估计法 与极大似然法 。 矩估计法 基本原理：用样本矩作为总体同阶矩的估计，即 1 1 () . n r r r ir i m EX X A n = == = ∑

例:设x1 xn为取自总体B(m,p),的样本, 其中m已知,0p<1未知,求p的矩估计

例：设X1， … ， Xn为取自总体B(m,p),的样本， 其中m已知，0<p<1未知，求p的矩估计

例:设x,…,Xn为取自任意总体X的样 本,且X的期望得和方差G均存在,求参 数μ,G2的矩估计

例 ：设X1， … ， Xn为取自任意总体X的样 本，且X的期望 得和方差 均存在，求参 数 的矩估计。 2 µ,σ µ 2 σ

极大似然法 基本原理:在参数空间中,选择一个参数的估计, 使得观察值出现的概率最大。 设总体X为离散型随机变量,它的分布律为 P{X=x}=P(x,0) 其中为未知参数,样本观察值x1,X2.x,根据极 大似然思想,如何用x,x2…x估计0?

极大似然法 基本原理：在参数空间中，选择一个参数的估计， 使得观察值出现的概率最大。 设总体X为离散型随机变量，它的分布律为 PX x P x { } (, ) = = θ 其中 为未知参数,样本观察值x1,x2,…xn,, 根据极 大似然思想，如何用x1,x2,…xn估计θ? θ

L(0)=P(X1=x1,X2=x2,…Xn=xn} ∏x,) 称函数L(0)为似然函数。 设总体X为连续型随机变量,它的密度函数为 Xf(r, 0) 其中0为未知参数,样本观察值x,x2…xn,似然函数 L()如何写?

记 1 12 2 ( ) { , , } L PX x X x X x θ == = = " n n 1 ( , ). n i i p x θ = =∏ 称函数 为 L( ) θ 似然函数。 设总体X为连续型随机变量，它的密度函数为 X fx ~ (, ) θ 其中 为未知参数,样本观察值x1,x2,…xn,,似然函数 L( ) θ 如何写? θ

连续型总体的似然函数 L()=f(x,) 定义71.2:设总体X仅含一个未知参数Q, 并且总体的分布律或密度函数已知,x1,x2 x3,…,xn为一组样本观察值。若存在0的一个 值θ(x1,…,xn)使得0=0时 L(e)=maxl(0) 则称θ(x12…,xn是θ的极大似然估计值。统 计量0(X1…,Xn 是0的极大似然估计值

1 ( ) ( , ). n i i L fx θ θ = =∏ 连续型总体的似然函数 定义7.1.2：设总体X仅含一个未知参数 ， 并且总体的分布律或密度函数已知，x1, x2 x3, …, xn为一组样本观察值。若存在 的一个 值 ，使得 时 θ 1 ˆ (, , ) n θ x x ! θ ˆ θ θ = 则称 是 的极大似然估计值。统 计量 是 的极大似然估计值。 1 ˆ (, , ) n θ x x ! 1 ˆ (,, ) θ X X ! n θ θ ˆ L L ( ) max ( ) θ θ =

极大似然法的一般步骤: ()与出似然函数:()=f(x) 或=∏(x,0) (2)对似然函数求对数;=1 (3)对求对数后的似然函数求导; (4)令导数为0;解方程 In L(0)=0 de (5)方程的解为未知参数的极大似然估计

极大似然法的一般步骤： (1)写出似然函数； (2)对似然函数求对数； 1 ( ) ( , ). n i i L fx θ θ = = ∏ 1 ( , ). n i i p x θ = 或 = ∏ (4)令导数为 0；解方程 ln ( ) 0. d L d θ θ = (5) 方程的解为未知参数的极大似然估计。 (3)对求对数后的似然函数求导；

例:设x1,…,为取自总体B(m,p),的样本, 其中m已知,0<p<1未知,求p的极大似然估计

例：设X1， … ， Xn为取自总体B(m,p),的样本， 其中m已知，0<p<1未知，求p的极大似然估计