北方工业大学：《概率论与数理统计》课程教学资源（PPT课件讲稿）第七章 参数估计

第七章参数估计 X~P(),X~(A)2X~N(202) 数理统计的主要任务之一是依据样本推断总体 推断的基本内容包括两个方面:一是依据样本寻找 总体未知参数的近似值和近似范围;二是依据样本 对总体未知参数的某种假设作出真伪判断本章先 介绍求近似值和近似范围的方法 数估 ∫在要求的精度范国内 计|区间估计{指出参教所在的区间

X~P(λ),X~(λ),X~N(μ,σ2 ) 用所获得的样本值去估计参数取值称为 参数估计. 参 数 估 计  点估计 区间估计 用某一数值作为 参数的近似值  在要求的精度范围内 指出参数所在的区间 数理统计的主要任务之一是依据样本推断总体. 推断的基本内容包括两个方面:一是依据样本寻找 总体未知参数的近似值和近似范围;二是依据样本 对总体未知参数的某种假设作出真伪判断.本章先 介绍求近似值和近似范围的方法. 第七章 参数估计

第7.1节点估计 1.定义总体X的分布函数为F(x;01,02,0k),6;为未知 参数(i=1,2,…,k),Ⅹ1,X2,…,Xn为来自该总体的s.r.s,若以 函数值61=6,(x1,x2,…,x)作为0的近似值,则称O为0 的估计值(抽样后),也称0;=01(X1,X2,…,Xn)为0 的估计量(抽样前).由于估计值(实数)与实数轴的点对应, 姑且又称日,为θ的点估计(量或值 即:X分布为F(x待估]选择统计量 估计量带入样本值>估计值

第7.1节 点估计 1.定义总体X的分布函数为F(x;θ1,θ2,…θk), θi为未知 参数(i=1,2,…,k),X1,X2,…,Xn为来自该总体的s.r.s,若以 函数值 (x1,x2,…,xn)作为θi的近似值,则称 为θi 的估计值(抽样后),也称 为θi 的估计量(抽样前).由于估计值(实数)与实数轴的点对应, 姑且又称 为θi的点估计(量或值). i i ˆ ˆ  =  i ˆ  (X ,X , ,X ) ˆ ˆ i = i 1 2  n i ˆ  即: 选择统计量 估计量 带入样本值 估计值 X分布为F(x;θ)[θ待估]

2点估计方法 (1)矩估计法 将总体的各阶原点矩用相应阶的样本原点矩替代 布列方程或方程组,所得到的解,作为总体未知参数 的点估计的方法 例711设总体X~U(0,6),X1,X2,…,Xn为取自该总体的样本 求未知参数b的矩估计量 解因为E()0所以由=X,可解得O=2X 故未知参数的矩估计量为6=2F

2 点估计方法 (1) 矩估计法 将总体的各阶原点矩用相应阶的样本原点矩替代, 布列方程或方程组, 所得到的解, 作为总体未知参数 的点估计的方法. 例7.1.1 设总体 X ~ U(0, ) , X X Xn , , , 1 2  为取自该总体的样本, 求未知参数 的矩估计量. 解 因为 2 ( )  E X = , 所以由 = X 2  , 可解得 = 2X , 故未知参数 的矩估计量为 ˆ = 2X

矩估计法的步骤 汪:A=1∑x为样本k阶原点矩 设总体X的分布函数为F(x;01,02,…,0n),θ,02…,θ, 为未知参数 1求总体X的k阶原点矩 q(01,02,…,0n)=E(Xk),k=1,2,…,m, 2解方程(组) 得 q1(1,2,…,0m)=A q2(01,02,…,6m)= 62=h2(A1,A2,…,An) ·非··· qn(01,02,…,0n) em=hm(a,a 3写出矩估计量6=h(A,A2,…,An)k=1,2,…,m

矩估计法的步骤 设总体X的分布函数为 F(x; , , , ) 1 2  m , 1，2，，m 为未知参数. 1.求总体X的k阶原点矩 q ( , , , ) E(X ),k 1,2, ,m, k k 1 2  m = =  2.解方程(组) ( ) ( )  ( )          =    =    = m 1 2 m m 2 1 2 m 2 1 1 2 m 1 q , , , A q , , , A q , , , A     得         =  =  = h (A ,A , ,A ) h (A ,A , ,A ) h (A ,A , ,A ) m m 1 2 m 2 2 1 2 m 1 1 1 2 m     3.写出矩估计量  ˆ k = hk (A1 ,A2 ,  ,Am ) k = 1,2,  ,m 注: = = n i 1 k k Xi n 1 A 为样本k阶原点矩

例72设总体X~Ua,b],求参数ab的矩估计量 解 ∈|a,b X-f(x)=b-a 其 +b E(X)= a b-a E(X dx=-(a+ab+b) b-a 3 解方程组 a+b 得 A,-3 a2 tab+b2 b=A1+√3×VA2-A 3 所求的矩估计量为=x-3∑x-x=x-3∑x-x ⅹ+√3

例 7.1.2 设总体 X ~ U[a,b] ,求参数a,b的矩估计量. 解:       = − 0 其 它 x [a,b] b a 1 X ~ f(x) 2 a b dx b a x E(X) b a + = − =  (a ab b ) 3 1 dx b a x E(X ) 2 2 b a 2 2 = + + − =  解方程组        = + + = + 2 2 2 1 A 3 a ab b A 2 a b 得 2 1 A2 A1 a = A − 3  − 2 1 A2 A1 b = A + 3  − 所求的矩估计量为    = = = = +  − = −  − = −  − n i 1 2 2 i 2 i n i 1 2 n i 1 2 i (X X) n 1 b X 3 ˆ (X X) n 1 X X X 3 n 1 aˆ X 3

2最大似然估计法 1)似然函数(样本的联合密度函数) (1)设总体X为连续型,X~f(x;01,2,m),0;为待 估参数(i=1,2,…,m),X1,Ⅹ2,…,Xn为来自该总体的s.r.S,则 X:~f(x1;01,0 (X1,X2,…,Xn)的联合密度函数为(似然函数) L(x,x2,xn;0,02y…,n)=f(x;),2x…,mn 如Ⅹ~F(),即X~f(x;A) X>0 0 0 则 e >0 X;~f(x;) l0 X:≤0 λe^xx1>0,x2>0,,xn>0 L(x,x22x:0)=(x,)=1 0 其它

1) 似然函数(样本的联合密度函数) (1) 设总体X为连续型,X～f(x;θ1,θ2,…θ m), θi为待 估参数(i=1,2,…,m),X1,X2,…,Xn为来自该总体的s.r.s,则 Xi ～f(xi;θ1,θ2,…θ m), (i=1,2,…,m) （X1,X2,…,Xn）的联合密度函数为 =    =    n i 1 1 2 n 1 2 m i 1 2 m L(x ,x ,...,x ; , ,..., ) f(x ; , ,..., ) (似然函数) 如 X~E(λ),即        = − 0 x 0 e x 0 X ~ f(x; ) x 则        = − 0 x 0 e x 0 X ~ f(x ; ) i i x i i i =  =  n i 1 1 2 n i L(x ,x ,...,x ; ) f(x , )          = = − 0 其 它 e x 0,x 0,...,x 0 1 2 n n i 1 xi 2 最大似然估计法

似然函数(样本的联合分布律) 2)设总体X为离散型,P{X=x}=P(x;θ1,…,m),;为待 估参数(i=1,2,…,m),X1,X2,…,Xn.为来自该总体的sr.sS,则 PX:=x}=P(x;θ1,62,…,n),(i=1,2,,m) (X1,X2,…,Xn)的联合分布律为(似然函数) L(X 1,4295 x;6,2…,6n)=IIP X:461s0250m 如XP(4,即P{X=m=,ePX=x m P(X1;/λ) e 1(x,x2xx;)=正工Px2)=Ae2

似然函数(样本的联合分布律) （2）设总体X为离散型,P{X=x}=P(x;θ1,…,θm),θi为待 估参数(i=1,2,…,m),X1,X2,…,Xn为来自该总体的s.r.s,则 P{Xi=xi}=P(xi;θ1,θ2,…θm), (i=1,2,…,m) （X1,X2,…,Xn）的联合分布律为 =    =    n i 1 1 2 n 1 2 m i 1 2 m L(x ,x ,...,x ; , ,..., ) P(x ; , ,..., ) (似然函数) 如 X~P(λ),即  − = = e m! P{X m} m  − = = e x! P{X x} x =  =  n i 1 1 2 n i L(x ,x ,...,x ; ) P(x , )  −  = e x ! P(x ; ) i x i i =  − = n i 1 i x e x ! i

2)基本思想 甲.乙两人比较射击技术分别射击目标一次,甲中而乙未中 可以认为甲射击技术优于乙射击技术 事件A发生的概率为01或09,观察一次事件A发生了, 可以认为:事件A发生的概率为09. 实际问题(医生看病、公安人员破案、技术人员进行质量 检验等)尽管千差万别,但他们具有一个共同的规律,即在 获得了观察资料之后,给参数选取一个数值,使得前面的观 察结果出现的可能性最大 最大似然估计就是通过样本值x1y…Xn等数求得总体的 分布参数,使得X1,…,Xn取值为X1,…,Xn的概率最大

2）基本思想 甲.乙两人比较射击技术,分别射击目标一次,甲中而乙未中, 可以认为:甲射击技术优于乙射击技术. 事件A发生的概率为0.1或0.9,观察一次,事件A发生了, 可以认为:事件A发生的概率为0.9. 实际问题(医生看病、公安人员破案、技术人员进行质量 检验等)尽管千差万别,但他们具有一个共同的规律,即在 获得了观察资料之后,给参数选取一个数值,使得前面的观 察结果出现的可能性最大. 最大似然估计就是通过样本值 等数求得总体的 分布参数,使得 取值为 的概率最大. 1 Xn X ,  , 1 xn x ,  , 1 xn x , 

样本观察值出现可能性的大小跟似然函数在该样本值 处的函数值有关,L越大,样本观察值越可能出现.所以 最大似然估计定义为: 若似然函数L(x,x2”…2x:)0,02,…n)在61,02…,6n 取到最大值,则称01,O2…,)n分别为01,O2,)n的 最大似然估计

样本观察值出现可能性的大小跟似然函数在该样本值 处的函数值有关, L越大, 样本观察值越可能出现. 所以 若似然函数 在 取到最大值,则称 分别为 的 最大似然估计. L(x ,x ,...,x ; , ,..., ) 1 2 n 1 2 m 1 ,2 ,...,m    1 ,2 ,...,m    1 2 m  , ,..., 最大似然估计定义为:

3)方法与步骤 设总体的分布密度(或概率密度)f(x;e1,…,0n) 其中θ1,…,0m是待估参数 (1)写出似然函数(即样本的联合密度函数) L=L( ,…,6a)=f(x;,…,0 (2)写出对数似然函数(对似然函数求导) In L ∑nf(x;,…,0n)(只有一个待估参数时求 (3)写出似然方程L=0,i=1,2,…m (4)求解似然方程并写出估计量0,i=1,2,3,…,m

3）方法与步骤 设总体的分布密度(或概率密度) 其中 是待估参数. f(x; , , ) 1  m 1 m  ,  , （1）写出似然函数(即样本的联合密度函数) = =   =   n i 1 1 n 1 m i 1 m L L(x ,,x ; ,, ) f(x ; ,, ) （2）写出对数似然函数(对似然函数求导) = =   n i 1 i 1 m lnL ln f(x ; ,, ) （3）写出似然方程   l n i L = 0,i = 1,2, m （4）求解似然方程并写出估计量  ˆ i ,i = 1,2,3,  ,m (只有一个待估参数时求 d ) dlnL