《医学统计学》课程教学资源（文献资料）最大似然估计

最大似然估计 最大似然估计法是在总体的分布类型已知的条件 下所使用的一种参数估计方法.它首先是由德国数学家 高斯在1821年提出的. 然而，这个方法常归功于英国统计学家费歇.费歇 在1922年重新发现了这一方法，并首先研究了这种方 法的一些性质. 最大似然估计法是基于最大似然 原理提出的

最大似然估计 最大似然估计法是在总体的分布类型已知的条件 下所使用的一种参数估计方法.它首先是由德国数学家 高斯在1821年提出的 . 然而，这个方法常归功于英国统计学家费歇 .费歇 在1922年重新发现了这一方法，并首先研究了这种方 法的一些性质 . 最大似然估计法是基于最大似然 原理提出的。 Fisher

例1：两个人共同进行射击，事先我们并不知道谁 的射击技术好，现在让每人射击一次，结果只有 一人击中目标，那么我们会问： 冬谁的射击技术好？ 我们作出判断的标准：击中目标者的水平高 于未击中目标者，这是符合常理的。 这种做法实际上使用了一种原理： ÷概率越大的事件越容易发生 。小概率事件在一次事件中几乎不发生

❖ 例1：两个人共同进行射击，事先我们并不知道谁 的射击技术好，现在让每人射击一次，结果只有 一人击中目标，那么我们会问： ❖ 谁的射击技术好？ 我们作出判断的标准：击中目标者的水平高 于未击中目标者，这是符合常理的。 ❖这种做法实际上使用了一种原理： ❖概率越大的事件越容易发生 ❖小概率事件在一次事件中几乎不发生

例2：假设一个罐子中装有许多白球和黑球， 只知道两种球的比例是1：3，但不知道是白球 多还是黑球多，现若随机抽取两球（每次取 一只，放回抽样)，结果全为黑球，试问罐 子黑球多还是白球多？ 分析： 假设抽取到一黑球的概率为，事件A表 示第一次取到黑球；事件B表示第二次取到黑 球，则两次都取到黑球的概率为P(AB): (1) 当p=3/4,P(AB)=9/16; (2) 当p=1/4,P(AB)=1/16;

❖ 例2：假设一个罐子中装有许多白球和黑球， 只知道两种球的比例是1:3，但不知道是白球 多还是黑球多，现若随机抽取两球（每次取 一只，放回抽样），结果全为黑球，试问罐 子黑球多还是白球多？ 分析：假设抽取到一黑球的概率为p，事件A表 示第一次取到黑球；事件B表示第二次取到黑 球，则两次都取到黑球的概率为P(AB)： （1） 当p=3/4， P(AB)=9/16； （2） 当p=1/4， P(AB)=1/16；

黑球多的时候两次抽到黑球的概 率大些 最大似然原理： 概率大的事件在一次试验中更容易发生。 在一次观测中发生了的事件其概率应该大

最大似然原理： 概率大的事件在一次试验中更容易发生。 在一次观测中发生了的事件其概率应该大 黑球多的时候两次抽到黑球的概 率大些

(1)设总体X是离散型随机变量，事件X=x”概 率P(x,0),其中0为待估计的未知参数，X,X2, Xn是来自X的一个样本，假定x,x2.x 是样本X,X2.X的一组观测值， X1=X”,X2=x2”?Xn=xn 同时发生了 由于X,X,X3.X相互独立，且与总 体同分布，所以这个事件同时发生的概率为

1 2 “ ” . ( ) . . n x x x x x =    1 2 n 1 2 n 1 X X P θ θ X X X X X X X （ ）设总体 是离散型随机变量，事件 概 率 ， ，其中 为待估计的未知参数， ， ， 是来自 的一个样本，假定 ， ， ， 是样本 ， ， 的一组观测值， . X X X X 1 2 3 n n 由于 ， ， 相互独立，且与总 体同分布，所以这 个事件同时发生的概率为 1 2 “ = =  = x x x ” “ ” .? ” X X X 1 2 n n ， ， 同时发生了

P(X=,X2 =X2 X3=X3.Xn=Xn) =P(X=x)P(X2=x)P(Xn=x)≈ΠP(x,0) i= 记作L(0) 它是关于日的函数。L(Θ)称为样本的似然函数

1 2 ( ) = = =  = x x x x . P X X X X 1 2 3 3 n n ， ， 记作L( ) θ 它是关于θ的函数。L(θ)称为样本的似然函数。 1 1 2 2 1 = ( ) ( ). ( ) ( , ) n n n i i X x X x X x P x  = P P P = = = 

由最大似然原理得知，概率越大的事件越容易 发生，在一次试验中的n个事件同时发生的概率应 该比较大； 那么，我们找出这样一个©值，使L()达到最大 值，并将该 值作为的估计，应该是合理的。 定义选择一个使L()达到最大值的作为未知参 数真实值的估计，这种估计称为最大似然估计

由最大似然原理得知，概率越大的事件越容易 发生，在一次试验中的n个事件同时发生的概率应 该比较大； 那么，我们找出这样一个 值，使L(θ)达到最大 值，并将该 值作为  θ的估计，应该是合理的。  定义 选择一个使L(θ)达到最大值的 作为未知参 数θ真实值的估计，这种估计称为最大似然估计    

L(x,.,xn0) maxL(x,.,xn0) 0e⊙ 所得估计值是观测值x,.,x的函数，记为 (x,xn)称其为未知参数的最大似然估计值 (X,.,X)称为未知参数的最大似然估计量

1 ˆ ( , , )   X Xn 称为未知参数 的最大似然估计量 1 1 ˆ ( , , ; ) max ( , , ; ) L x x L x x n n     =

因此求0就转换为求L(0)的极值问题 般，p(x;0)关于0可导，故0可由下式求得： dL(0)-0. do

ˆ 因此求  就转换为求L（ ）的极值问题 ( ; ) 一般，p x    关于 可导，故 可由下式求得： ( ) 0. dL d   =

又因L(0)与lnL(0)在同一O处取到极值，因此的最 大似然估计0也可从下述方程解得： dlnL(θ) =0 do (2)如果是连续性随机变量，可以用概率密度 函数f(x,O)代替p(x,O)

( ) ln ( ) L L       又因 与 在同一 处取到极值，因此 的最 大似然估计 也可从下述方程解得： f x x ( ; ) p( ; )   （2）如果是连续性随机变量，可以用概率密度 函数 代替 。 ln ( ) 0. d L d   =