总体回归函数、样本回归函数
普通最小二乘法、经典计量经济学的基本假设
一、变量间的关系及回归分析的基本概念
1. 变量间的关系
(1)确定性关系或函数关系:研究的是确定现象非随机变量间的关系。
例如:在销售价格P不变的情况下,某种商品销售量X与销售额Y之间的关系可表示为Y=PX.
(2)统计依赖或相关关系:研究的是非确定现象随机变量间的关系。
例如:农作物的产量=f(气温、降雨量、阳光量、施肥量)
对变量间统计依赖关系的考察主要是通过相关分析(correlation analysis)或回归分析(regression analysis)来完成的
注意
①不线性相关并不意味着不相关。
②有相关关系并不意味着一定有因果关系。
③回归分析/相关分析研究一个变量对另一个(些)变量的统计依赖关系,但它们并不意味着一定有因果关系。
④相关分析对称地对待任何(两个)变量,两个变量都被看作是随机的。回归分析对变量的处理方法存在不对称性,即区分应变量(被解释变量)和自变量(解释变量):前者是随机变量,后者不是。
回归分析
回归的概念
回归是指关于一个变量(被解释变量)对另一个或多个变量(解释变量)依存关系的研究,用适当的数学模型去近似地表达或估计变量之间的平均变化关系,其目的是要根据已知的或固定的解释变量的数值,去估计所研究的被解释变量的均值。
注意:被解释变量是随机变量,解释变量在本质上可以是随机变量,但在回归分析中解释变量作为被解释变量变动的原因,我们总是假定在重复抽样中是取某些固定的值,所以在一般情况下解释变量是作为非随机变量来处理的。
二、总体回归函数
回归分析关心的是根据解释变量的已知或给定值,考察被解释变量的总体均值,即当解释变量取某个确定值时,与之统计相关的被解释变量所有可能出现的对应值的平均值。
例:一个假想的社区有100户家庭组成,要研究该社区每月家庭消费支出Y与每月家庭可支配收入X的关系。 即如果知道了家庭的月收入,能否预测该社区家庭的平均月消费支出水平。
为达到此目的,将该100户家庭划分为组内收入差不多的10组,以分析每一收入组的家庭消费支出。
由于不确定因素的影响,对同一收入水平X,不同家庭的消费支出不完全相同;
但由于调查的完备性,给定收入水平X的消费支出Y的分布是确定的,即以X的给定值为条件的Y的条件分布(Conditional distribution)是已知的,例如:P(Y=561|X=800)=1/4。
因此,给定收入X的值Xi,可得消费支出Y的条件均值(conditional mean)或条件期望(conditional expectation):E(Y|X=Xi)。
该例中:E(Y | X=800)=561
描出散点图发现:随着收入的增加,消费“平均地说”也在增加,且Y的条件均值均落在一根正斜率的直线上。这条直线称为总体回归线。
0
500
1000
1500
2000
2500
3000
3500
500
1000
1500
2000
2500
3000
3500
4000
每月可支配收入X(元)
每
月
消
费
支
出
Y
(元)
在给定解释变量Xi条件下被解释变量Yi的期望轨迹称为总体回归线(population regression line),或更一般地称为总体回归曲线(population regression curve)。
称为(双变量)总体回归函数(population regression function, PRF)。
相应的函数:
)
(
)
|
(
i
i
X
f
X
Y
E
=
三、随机扰动项
总体回归函数说明在给定的收入水平Xi下,该社区家庭平均的消费支出水平。
但对某一个别的家庭,其消费支出可能与该平均水平有偏差。
称为观察值围绕它的期望值的离差(deviation),是一个不可观测的随机变量,又称为随机干扰项(stochastic disturbance)或随机误差项(stochastic error)。
Ui=Yi-E(Y|Xi)
例中,给定收入水平Xi ,个别家庭的支出可表示为两部分之和:(1)该收入水平下所有家庭的平均消费支出E(Y|Xi),称为系统性(systematic)或确定性(deterministic)部分;(2)其他随机或非确定性nonsystematic)部分ui。
称为总体回归函数(PRF)的随机设定形式。表明被解释变量除了受解释变量的系统性影响外,还受其他因素的随机性影响。由于方程中引入了随机项,成为计量经济学模型,因此也称为总体回归模型。
随机误差项主要包括下列因素:
在解释变量中被忽略的因素的影响;
变量观测值的观测误差的影响;
模型关系的设定误差的影响;
其他随机因素的影响。
产生并设计随机误差项的主要原因:
理论的含糊性;
数据的欠缺;
节省原则。
四、样本回归函数(SRF)
问题:能从一次抽样中获得总体的近似的信息吗?如果可以,如何从抽样中获得总体的近似信息?
例:在例的总体中有如下一个样本,能否从该样本估计总体回归函数PRF?
回答:能
该样本的散点图(scatter diagram):
画一条直线以尽好地拟合该散点图,由于样本取自总体,可以该直线近似地代表总体回归线。该直线称为样本回归线(sample regression lines)。
记样本回归线的函数形式为:
称为样本回归函数(sample regression function,SRF)。
注意:这里将样本回归线看成总体回归线的近似替代
则
线性回归模型的基本假设
假设1. 解释变量X是确定性变量,不是随机变量;
假设2. 随机误差项Ui具有零均值、同方差和不序列相关性;
假设3. 随机误差项Ui与解释变量X之间不相关:
假设4. Ui服从零均值、同方差、零协方差的正态分布
注意:
如果假设1、2满足,则假设3也满足;
如果假设4满足,则假设2也满足。
以上假设也称为线性回归模型的经典假设或高斯
(Gauss)假设,满足该假设的线性回归模型,也称为经典线性回归模型
(Classical Linear Regression Model, CLRM)。
参数的普通最小二乘估计(OLS)
给定一组样本观测值(Xi, Yi)(i=1,2,…n)要求样本回归函数尽可能好地拟合这组值.
普通最小二乘法(Ordinary least squares, OLS)给出的判断标准是:二者之差的平方和最小。
方程组(*)称为正规方程组(normal equations)。
谢 谢!
*