《计量经济学》课程教学课件（PPT讲稿）第三章 多元线性回归模型 Multiple Linear Regression Model 3.2 多元线性模型的参数估计

§3.2多元线性回归模型的估计 一、普通最小二乘估计 二、最大或然估计 三、矩估计 四、参数估计量的性质 五、样本容量问题 六、估计实例

§3.2 多元线性回归模型的估计 一、普通最小二乘估计 二、最大或然估计 三、矩估计 四、参数估计量的性质 五、样本容量问题 六、估计实例

说明 估计对象： 一模型结构参数 一随机项的分布参数（方差） 估计方法： -3大类方法：OLS、ML或者MM -在经典模型中多应用OLS 一在非经典模型中多应用ML或者MM

说 明 估计对象： – 模型结构参数 – 随机项的分布参数（方差） 估计方法： – 3大类方法：OLS、ML或者MM – 在经典模型中多应用OLS – 在非经典模型中多应用ML或者MM

一、普通最小二乘估计(OLS)

一、普通最小二乘估计(OLS)

1、普通最小二乘估计 ·最小二乘原理：根据被解释变量的所有观测值 与估计值之差的平方和最小的原则求得参数估 计量

1、普通最小二乘估计 • 最小二乘原理：根据被解释变量的所有观测值 与估计值之差的平方和最小的原则求得参数估 计量

·步骤： (Y,Xi),i=1,2,nj=0,1,2,.k 已知 立，=B。+B,X,+B2X2,+.+BuXk 假定 =0 0=2e=2出，-) i三 Q=0 2 ∑（化，-(B+月X+B,X,+.+BX》 羽， Q=0 Min O Q=0

Y X i n j k ( i , j i), = 1,2,, , = 0,1,2, Yi   X i  X i  ki X Ki ˆ ˆ ˆ ˆ ˆ = 0 + 1 1 + 2 2 +  +  ==== 0 ˆ 0 ˆ 0 ˆ 0 ˆ 210 QQQQ  k      2 1 1 2 ) ˆ   ( = = = = − n i i i n i Q e i Y Y 2 1 0 1 1 2 2 )) ˆ ˆ ˆ ˆ ( ( = = − + + + + ni Yi   X i  X i   k X ki 已知 假定 • 步骤： Min Q

2(B。+BX+B2X2,+.+BX)=2Y 2(B。+B,Xu+B2X2+.+BXa)X,=2Y,Xu 2(B。+BX,+B2,X2,+.+BX)X2,=Y,X2 (B。+B,Xu+B2X2,+.+BXa)X右=Y,X B1,j=0,1,2,L,k

          + + + + =   + + + + =   + + + + =   + + + + =  i i k ki ki i ki i i i k ki i i i i i k ki i i i i i k ki i X X X X Y X X X X X Y X X X X X Y X X X X Y ) ˆ ˆ ˆ ˆ ( ) ˆ ˆ ˆ ˆ ( ) ˆ ˆ ˆ ˆ ( ) ˆ ˆ ˆ ˆ ( 0 1 1 2 2 0 1 1 2 2 2 2 0 1 1 2 2 1 1 0 1 1 2 2                      ˆ , 0,1,2, , j  j k = L

正规方程组的矩阵形式 n ∑X 1 1 1 ∑X ∑XXa B, Xu X12 Y ∑X:∑XaX . ∑x品 g X XK2 . X in (XX)B=XY 条件？ B=(XXXY

•正规方程组的矩阵形式                             =                                     k k kn n n ki ki i ki k i i i ki i ki Y Y Y X X X X X X X X X X X X X X n X X                 2 1 1 2 1 1 1 1 2 1 0 2 1 1 2 1 1 1 1 1 1 ˆ ˆ ˆ    (XX)β ˆ = XY β= XX XY −1 ( ) ˆ 条件？

·OLS估计的矩阵表示 Q-Zci-c'e-(Y-XB)(Y-XB) (Y-XB)'(Y-XB)=0 (YY-8XY-YXB+BXXB)=0 XY+XXB=0 XY-XXB B=XXXY

• OLS估计的矩阵表示 ( ˆ ) ( ˆ ) 0 ˆ Y − Xβ  Y − Xβ =  β  ( ˆ ˆ ˆ ˆ ) 0 ˆ  −   −  +   =   Y Y βX Y Y Xβ βX Xβ β − XY + XXβ ˆ = 0 β= XX XY −1 ( ) ˆ XY = XXβ ˆ ) ˆ ) ( ˆ ( 1 =  2 = ee = Y − Xβ Y − Xβ = n i i Q e

2、正规方程组的另一种表达 XY=XXB 将Y=XB+e代入得 X'XB+X'e=XXB X'e=0 ∑g=0 该正规方程 组成立的条 ∑X,e=0j=l,2.k 件是什么？

2、正规方程组的另一种表达 XY = XXβ ˆ X Xβ ˆ X e X Xβ ˆ  +  =  Xe = 0 0 0 1,2, , i i ij i i e X e j k  =   = =     该正规方程 组成立的条 件是什么？

3、随机误差项的方差σ的无偏估计 e=Y-XB =XB+u-X(X'X)X(XB+) =u-X(XX)X'u =I-X(XX)X)u =Mu e'e u'M'Mu uMu M为等幂矩阵

3、随机误差项的方差的无偏估计 e = Y − Xβ ˆ Mμ I X X X X μ μ X X X X μ Xβ μ X X X X Xβ μ = = −   = −   = + −   + − − − ( ( ) ) ( ) ( ) ( ) 1 1 1 e e    = = μ M Mμ μ Mμ M为等幂矩阵