《第3章多元回归分析:估计.ppt》由会员分享,可在线阅读,更多相关《第3章多元回归分析:估计.ppt(12页珍藏版)》请在课桌文档上搜索。
1、第3章 多元回归分析:估计,3.1 使用多元回归的动因3.2 普通最小二乘法的操作和解释3.3 OLS估计量的期望值3.4 OLS估计量的方差3.5 OLS的有效性:高斯-马尔可夫定理,3.1 使用多元回归的动因,1、可以度量在其他条件不变情况下y相对于某一因素的变化;2、简单回归分析中 被包括在误差项中,而x1与 可能相关,从而导致在两变量模型中对 的估计有偏误。3、多元回归分析对推广两变量之间的函数关系有帮助。,3.2 普通最小二乘法的操作和解释,如何得到OLS估计值最小化残差平方和对OLS回归方程的解释偏效应,其他情况不变对多元回归“排除其他变量影响”的解释 是将x1对其他解释变量回归得
2、到的残差,简单回归和多元回归估计值的比较二者在两种情况下相等:1 样本中x2对y的偏效应为零;2 样本中x1与x2 不相关。拟合优度,3.3 OLS估计量的期望值,假定1:关于参数的线性方程假定2:随机抽样假定3:不存在完全共线性 在样本中,没有一个自变量是常数,自变量之间也不存在严格的线性关系。假定4:条件均值为零 给定自变量的任何值,误差u的期望值为零。,1、在模型中包含了无关变量不影响OLS估计量的无偏性,但是增大了方差。2、遗漏变量,3.4 OLS估计量的方差,假定5:同方差性在假定1-5下,以自变量的样本值为条件,对所有的j=1,k,都有OLS方差的成分:多重共线性 误差方差:越大意
3、味着OLS估计量的方差就越大;,Xj的总样本变异,越小,方差越大,但是其等于0违背假定3;自变量之间的线性关系,是将Xj对所有其他自变量进行回归得到的。时方差最小,违背假定3。两个或多个自变量之间高度相关(但不完全)相关,被称为多重共线性。模型中某些自变量之间高度相关,对模型中其他参数的估计效果不重要(从方差公式看)。小样本容量可能导致很大的抽样方差。,误设模型中的方差真实模型:遗漏了X2:得:,1、时,是有偏的,无偏,且2、时,二者都无偏,且从第2个结论看,模型中包括无关变量的后果是参数估计量的方差较高。第1种情况下,我们更偏好在模型中包括X2,即更偏好,因为A:在大样本情况下,偏误对任何样本容量都大致相等,随着n变大,都趋于0;B:模型错误的遗漏了X2,误差方差因为有效地包含了部分X2而提高。,估计:OLS估计量的标准误定理3.3:是 的无偏估计定理3.5:高斯-马尔可夫定理 在假定1-5下,可以得到最优无偏估计量。,