麻省理工学院：《应用统计学》课程教学资源（讲义）lec15 logistic regression

Logistic回归 参考: 4 piled linear statistical models,由Ner等著 Categorical Data analysis,由 Agresti著 幻灯片由 Elizabeth newton(美国麻省理工学院)制作

1 Logistic 回归 参考： Appiled Linear Statistical Models，由Neter等著 Categorical Data Analysis，由Agresti著 幻灯片由Elizabeth Newton（美国麻省理工学院）制作

Logistic I归 当响应变量是定性变量时的非线性模型 两种可能的结果,成功或失败,患病的或没 有患病的,出席的或缺席的 实例:CAD(y)是年龄,体重,性别,吸烟 历史,血压的函数 ·吸烟者或不吸烟者是家庭历史,同年龄组行 为,收入,年龄的函数 今年购买一辆汽车是收入,当前汽车的使用 年限,年龄的函数 E Newton

2 Logistic 回归 • 当响应变量是定性变量时的非线性模型 • 两种可能的结果，成功或失败，患病的或没 有患病的，出席的或缺席的 • 实例：CAD(y/n)是年龄，体重，性别，吸烟 历史，血压的函数 • 吸烟者或不吸烟者是家庭历史，同年龄组行 为，收入，年龄的函数 • 今年购买一辆汽车是收入，当前汽车的使用 年限，年龄的函数 E Newton

二元结果的响应函数 Y=Bo+B,x+8 EY)=Bo+B,X, P(Y=1)=丌 P(Y=0)=1-丌 E{Y}=1(x)+0(1-x1)= EY3=Bo+B1X,=T E Newton

3 二元结果的响应函数 E Newton

当响应是二元时的特殊问题 对响应函数的约束: 0≤E{Y}=π=<1 非标准化的误差项: 当Y:=1:E1=1-6X 当Y;=0E=BX1 非恒量的误差方差: Var Y =varG=T I-TI) E Newton

4 当响应是二元时的特殊问题 对响应函数的约束： 非标准化的误差项： 当 当 非恒量的误差方差： E Newton

Logistic响应函数 E{Y}= exp(Bo+B,X) 1+exp( 0+BX) T(1+exp(Bo+B,X)=exp(BoB,X) 丌+7exp(0+BX)=eXp(风+A1X) 丌=eXp(+月1X)-rexp(G6+A1X) =(1-)eXp(0+B1X) 丌 exp(Bo+B, X) log Bo+B,X E Newton

5 Logistic 响应函数 E Newton

Logistic响应函数的例子 图中横坐标为:年龄;纵坐标为:CAD的概率 8丈 ooooooooooooo sn5n0500808008034 E Newton

6 Logistic 响应函数的例子 E Newton 图中横坐标为：年龄；纵坐标为：CAD的概率

Logistic响应函数的性质 log(/(1-m)=对数转换,对数发生比 丌/(1-m)=发生比 随着x的值从-∞变化到∞, Logit从-0 变化到 E Newton

7 Logistic 响应函数的性质 ＝对数转换，对数发生比 ＝发生比 随着x的值从 变化到 ，Logit 从 变化到 −∞ ∞ log( /(1 )) π −π π /(1 ) −π −∞ ∞ E Newton

似然函数 PY=1) P(Y=0)=1 概率分布函数:f(Y)=x(1-x),Y=01=12n 因为Y是独立的,联合概率分布函数为 g(Y1…Yn) n n =1(1i oggy…)=g-)091z) E Newton

8 似然函数 概率分布函数： 因为 是独立的，联合概率分布函数为： E Newton

似然函数(续) 0-)=+8X 丌 丌 1+0/A+X 0Y+).+0+× E Newton

9 似然函数（续） E Newton

多元 Logistic回归的似然性 0gL()=∑△yX)-∑0g1+exp2月X eXp(∑x 6B=2yx-2 1+exp(∑6x) exp∑X 似然方程:∑yx=∑x 1+6xp(∑x Xy=Xy E Newton

10 多元Logistic回归的似然性 似然方程： E Newton