计量经济学
——单方程计量经济学模型
理论与方法
第二章 经典单方程计量经济学模型：
一元线性回归模型
第一节 回归分析概述
第二节 一元线性回归模型的参数估计
第三节 一元线性回归模型的统计检验
第四节 一元线性回归模型的预测
第二节：一元线性回归模型的参数估计
一、一元线性回归模型的基本假设
二、参数的普通最小二乘估计（OLS）
三、最小二乘估计量的性质
四、参数估计量的概率分布及随机误差项
方差的估计
给出一元线性回归模型的一般形式：给出一元线性回归模型的一般形式：
其中其中 ：被解释变量，：被解释变量， ：解释变量，：解释变量， 和和 ：待估参：待估参
数；数； ：随机误差项；：随机误差项；
总体回归函数形式：总体回归函数形式：
样本回归函数形式：样本回归函数形式：
其中其中 是是 的估计值，我们需要找到一种参数估的估计值，我们需要找到一种参数估
计方法，求出计方法，求出 ，，并且这种参数估计方法保证了估并且这种参数估计方法保证了估
计值计值 与总体真值与总体真值 尽可能地接近；这种参数尽可能地接近；这种参数
估计方法就是估计方法就是普通最小二乘法普通最小二乘法 OLS OLS。。
一、一元线性回归模型的基本假设
为保证参数估计量具有良好的性质，为保证参数估计量具有良好的性质， 通常对模型提出通常对模型提出
若干基本假设，这些假设与所采用的估计方法紧密相关。若干基本假设，这些假设与所采用的估计方法紧密相关。
假设假设 1 1：：解释变量解释变量 是确定性变量，不是随机变量；是确定性变量，不是随机变量；
假设假设 2 2：：随机误差项具有随机误差项具有 0 0 均值和同方差，即均值和同方差，即
假设假设33：：随机误差项在不同样本点之间是独立的，不存随机误差项在不同样本点之间是独立的，不存
在序列相关，即：在序列相关，即：
一、一元线性回归模型的基本假设
假设假设 4 4：：随机误差项与解释变量之间不相关，随机误差项与解释变量之间不相关，
即：即：
假设假设 5 5：：随机误差项服从随机误差项服从 0 0 均值，同方差的正态均值，同方差的正态
分布，即分布，即
以上这些假设称为线性回归模型的经典假
设，满足这些假设的线性回归模型，也称为
经典线性回归模型（（classical linear regression classical linear regression
modelmodel））。在回归分析的参数估计和统计检验
理论中，许多结论都是以这些假定作为基础
的。如果违背其中的某一项假定，模型的参
数估计就会存在问题，也就是说最小二乘法
（OLS）就不再适用，需对模型进行修正或
采用其他的方法来估计模型了。
二、参数的普通最小二乘估计（OLS）
普通最小二乘法普通最小二乘法(Ordinary Least Squares(Ordinary Least Squares，，OLS)OLS)
回归分析的目的回归分析的目的：根据样本回归函数：根据样本回归函数 来来
估计替代未知的总体回归函数估计替代未知的总体回归函数 ，就要，就要
保证样本回归函数尽可能地保证样本回归函数尽可能地““接近接近””总体回归函数。总体回归函数。
在已知总体的一组样本观测值在已知总体的一组样本观测值
的情况下，为了保证样本回归函数的情况下，为了保证样本回归函数 尽可能尽可能
地地““接近接近””总体回归函数总体回归函数 ，，就是要样就是要样
本本
回归线上的点回归线上的点 与真实观测点与真实观测点 在总体上尽量接近；在总体上尽量接近；
这也就是说要求样本回归函数这也就是说要求样本回归函数 的估计值的估计值
与真实观测值与真实观测值 之间的误差之间的误差 在总体上尽量在总体上尽量
小。小。
每月家庭收入与消费支出散点图（样本）
二、参数的普通最小二乘估计（OLS）
要求真实观测值要求真实观测值 与样本回归函数与样本回归函数
的估计值的估计值 之间的误差，也就是残差之间的误差，也就是残差
在总体上最小，即采用残差平方和在总体上最小，即采用残差平方和 最小的准最小的准
则，也就是最小二乘准则：则，也就是最小二乘准则：
根据微积分中求极值的原理，要使根据微积分中求极值的原理，要使 达到最小，达到最小，
待定系数待定系数 应满足：应满足：
二、参数的普通最小二乘估计（OLS）
即：即：
从而得到如下方程组：从而得到如下方程组：
以上方程组称为最小二乘的以上方程组称为最小二乘的正规方程组正规方程组(normal (normal
equations)equations)
二、参数的普通最小二乘估计（OLS）
解这个正规方程组得：解这个正规方程组得：
其中其中 分别代表分别代表 和和 两个变量的样本均值。两个变量的样本均值。
上式就称为线性回归模型参数上式就称为线性回归模型参数 的的最小二乘估计量最小二乘估计量
（（ordinary least squares estimatorsordinary least squares estimators））；将样本数据代入这；将样本数据代入这
两个公式，就可以计算出两个公式，就可以计算出 的具体数值，它们一定是的具体数值，它们一定是
使残差平方和使残差平方和 取最小值的取最小值的参数估计值（最小二乘估参数估计值（最小二乘估
计值）计值）。。
二、参数的普通最小二乘估计（OLS）
由此可得到拟合最优的样本回归直线（样本回归由此可得到拟合最优的样本回归直线（样本回归
函数）：函数）：
由残差由残差 可得可得样本回归模型样本回归模型为：为：
将将总体回归模型总体回归模型 与上式比较，与上式比较，
是是 的估计值，残差的估计值，残差 可看作随机误差项可看作随机误差项
的估计值。的估计值。
二、参数的普通最小二乘估计（OLS）
例例：在上述例：在上述例 中家庭可支配收入中家庭可支配收入 影响家影响家
庭消费支出庭消费支出 的问题中，对于所抽出的一组样本的问题中，对于所抽出的一组样本
数据如表数据如表 所示：所示：
可将表中的这组样本数据代入到下面公式：可将表中的这组样本数据代入到下面公式：
进行参数估计计算，具体计算过程见下表进行参数估计计算，具体计算过程见下表((表表))：：
表表 家庭可支配收入家庭可支配收入 和消费支出和消费支出 的样本数据资料的样本数据资料
及参数估计的计算表及参数估计的计算表 ( (单位单位::元元))
例例
根据表根据表中的计算结果，首先可计算出中的计算结果，首先可计算出 ：：
再利用再利用 计算出计算出 ：：
由该样本估计的回归方程（即样本回归函数）为：由该样本估计的回归方程（即样本回归函数）为：
这是对这是对 X X 和和 Y Y 进行进行线性回归分析得到的初步结果。线性回归分析得到的初步结果。
Eviews软件画出的收入 X 和支出 Y
样本数据的散点图
Eviews软件输出的回归结果
Eviews软件输出的被解释变量 的实际值 、
拟合值 和回归残差 的序列图
三、最小二乘估计量的性质
当采用最小二乘法将模型的参数估计出来以后，需考当采用最小二乘法将模型的参数估计出来以后，需考
虑参数估计值的精度问题；所谓精度问题就是这个参数虑参数估计值的精度问题；所谓精度问题就是这个参数
估计值是否能代表总体参数的真值。估计值是否能代表总体参数的真值。
这就需要考察一下参数估计量的统计性质。参数估计这就需要考察一下参数估计量的统计性质。参数估计
量是随机变量，其统计性质主要包括线性性、无偏性和量是随机变量，其统计性质主要包括线性性、无偏性和
最小方差性，也就是其均值和方差等方面的性质。最小方差性，也就是其均值和方差等方面的性质。
事实可以证明：事实可以证明：在模型满足那几条基本假定的前提在模型满足那几条基本假定的前提
下，下，最小二乘估计量的性质是非常理想的，它是具有最小二乘估计量的性质是非常理想的，它是具有最最
小方差的线性无偏估计量小方差的线性无偏估计量 （（best linear unbiased best linear unbiased
estimatorestimator，，BLUEBLUE））。。
我们就要证明一下最小二乘估计量的我们就要证明一下最小二乘估计量的线性性、无偏性线性性、无偏性
和最小方差性（有效性）和最小方差性（有效性）。。
三、最小二乘估计量的性质
（（11）最小二乘估计量的线性性）最小二乘估计量的线性性：：是指参数估计量是指参数估计量
和和 可以分别表示为被解释变量观测值可以分别表示为被解释变量观测值 的线的线
性组合（线性函数）；性组合（线性函数）；
证明如下：证明如下：
其中：其中：
对于引进的对于引进的 容易证明有如下的特性：容易证明有如下的特性：
；； ；；
•（（11）最小二乘估计量的线性性）最小二乘估计量的线性性
证明证明 ；；
因为：因为：
证明证明 ；；
首先：首先：
然后：然后：
这里：这里：
•（（11）最小二乘估计量的线性性）最小二乘估计量的线性性
证明证明 ；；
因为：因为：
可得到：可得到：
再回到前面得到的再回到前面得到的
且已证明且已证明 ；则上式等于：；则上式等于：
即：即： ；；由此可见由此可见 是是 的线性函数的线性函数((组合组合))。。
•（（11）最小二乘估计量的线性性）最小二乘估计量的线性性
的线性性得到证明以后，同样的道理，的线性性得到证明以后，同样的道理， 的线的线
性性证明如下：性性证明如下：
其中：其中：
即：即： ，，由此可见由此可见 也是也是 的线性函数的线性函数
（组合）。（组合）。
•（（11）最小二乘估计量的线性性）最小二乘估计量的线性性
经过证明我们已经得到：经过证明我们已经得到：
；；
由于由于 ，， 由解释变量由解释变量 决定的，决定的， 取值取值
是确定性的，所以是确定性的，所以 相当于是一组常数，相当于是一组常数，因此我们因此我们
说说 是是 的线性函数。的线性函数。
同样道理，由于同样道理，由于 ，其中样本数，其中样本数 ，均值，均值
和和 都是确定性的，所以都是确定性的，所以 也相当于是一组常数，也相当于是一组常数，
因此我们说因此我们说 也是也是 的线性函数。的线性函数。
三、最小二乘估计量的性质
（（22）最小二乘估计量的无偏性：）最小二乘估计量的无偏性：是指参数估计量是指参数估计量
和和 的均值（期望值）分别等于总体回归参数的的均值（期望值）分别等于总体回归参数的
真值真值 和和 ；即：；即： ；；
证明如下：由线性性得：证明如下：由线性性得：
即即 ；；
同样的道理，由线性性得：同样的道理，由线性性得：
同样，对于引进的同样，对于引进的 容易证明有如下的特性：容易证明有如下的特性：
•（（22）最小二乘估计量的无偏性）最小二乘估计量的无偏性
即：即： ；；
证明证明：由：由 ，，
则：则： ；；
另：另： ；；
再回到前面得到的：再回到前面得到的：
即：即：
•（（22）最小二乘估计量的无偏性）最小二乘估计量的无偏性
这样就有：这样就有：
；；
分别对分别对 和和 求均值（期望值），得到：求均值（期望值），得到：
由基本假定由基本假定 2 2 知知 ，所以，所以 得证；得证；
同理可得：同理可得：
即即 得证；得证；
因此因此 和和 分别是分别是 和和 的无偏估计量。的无偏估计量。
三、最小二乘估计量的性质
（（33）最小二乘估计量的最小方差性（有效性）：）最小二乘估计量的最小方差性（有效性）：
是指在所有的线性无偏估计量中，最小二乘估计量是指在所有的线性无偏估计量中，最小二乘估计量 和和
具有最小方差，最小方差性又叫具有最小方差，最小方差性又叫““有效性有效性””；也就是说，；也就是说，
如果如果 和和 是其他参数估计方法得到的总体真值的线是其他参数估计方法得到的总体真值的线
性无偏估计量，则有性无偏估计量，则有 和和
成立。成立。
要证明上面两式成立，须分两步证明；要证明上面两式成立，须分两步证明；
首先求最小二乘估计量首先求最小二乘估计量 和和 的方差的方差：：
由由 的线性性，即的线性性，即 求得其方差为：求得其方差为：
由基本假定由基本假定 2 2 知知 ，所以上式成立，所以上式成立
（（33）最小二乘估计量的最小方差性（有效性）：）最小二乘估计量的最小方差性（有效性）：
即：即：
同理，由同理，由 的线性性，即的线性性，即 ，求得其方差为：，求得其方差为：
这里有：这里有： ；； 那么：那么：
•（（33）最小二乘估计量的最小方差性（有效性）：）最小二乘估计量的最小方差性（有效性）：
即：即：
要求记住这两个重要结论要求记住这两个重要结论：：
；；
下面推证最小方差性下面推证最小方差性：：
这里我们只证明这里我们只证明 ；关于；关于 的的
证明与前式类似；证明与前式类似；
假设假设 是其他参数估计方法求出来的总体真值的线性无是其他参数估计方法求出来的总体真值的线性无
偏估计量偏估计量 ，，即即 是是 的另一个线性无偏估计量的另一个线性无偏估计量,,
其中系数其中系数 ，且，且 ；；
•（（33）最小二乘估计量的最小方差性（有效性）：）最小二乘估计量的最小方差性（有效性）：
由由 的无偏性可得：的无偏性可得：
要使无偏性成立，必须满足：要使无偏性成立，必须满足： 和和
而且还有：而且还有：
所以：所以：
•（（33）最小二乘估计量的最小方差性（有效性）：）最小二乘估计量的最小方差性（有效性）：
即：即：
即：即： 得证，得证， 的最小方差性得证；的最小方差性得证；
而且只有当而且只有当 时，等式才成立。时，等式才成立。
同理可证：同理可证：
即即 的最小方差性也得证。的最小方差性也得证。
三、最小二乘估计量的性质
我们证明了最小二乘估计量我们证明了最小二乘估计量 和和 具有三个性具有三个性
质：线性性、无偏性和最小方差性。质：线性性、无偏性和最小方差性。
在满足经典线性回归模型基本假定的前提下在满足经典线性回归模型基本假定的前提下，最，最
小二乘估计量具有线性性、无偏性和最小方差性这小二乘估计量具有线性性、无偏性和最小方差性这
样的优良性质，即最小二乘估计量样的优良性质，即最小二乘估计量 和和 是参数是参数
真值真值 和和 的的最佳线性无偏估计量最佳线性无偏估计量（（best linear
unbiased estimatorunbiased estimator，，BLUEBLUE），这一结论就是著名），这一结论就是著名
的的高斯高斯——马尔可夫定理马尔可夫定理(Gauss-Markov theorem)(Gauss-Markov theorem)。。
四、参数估计量的概率分布及随机误差项
方差的估计
（（11）参数估计量）参数估计量 和和 的概率分布的概率分布
最小二乘估计量最小二乘估计量 和和 均是被解释变量均是被解释变量 的线性组合，的线性组合，
因此因此 和和 就与就与 有相同类型的概率分布。有相同类型的概率分布。
在基本假定的条件下，在基本假定的条件下， 是正态分布，是正态分布， 也是正态分也是正态分
布布::
; ;
((注释注释: : 由于由于 , , 则则
））
和和 与与 有相同类型的概率分布，因此有相同类型的概率分布，因此 和和
也服从正态分布，所以也服从正态分布，所以 和和 的分布可以表示为：的分布可以表示为：
（（11）参数估计量）参数估计量 和和 的概率分布的概率分布
即：即：
于是，于是， 和和 的标准差分别为：的标准差分别为：
（（22）随机误差项）随机误差项 的方差的方差 的估计的估计
在参数估计量在参数估计量 和和 的方差的表达式中，都含有随的方差的表达式中，都含有随
机误差项机误差项 的方差的方差 ；； 是总体方差，由于是总体方差，由于 实际上实际上
是未知的，因此是未知的，因此 和和 的方差实际上无法计算，这就的方差实际上无法计算，这就
需要对需要对 进行估计；进行估计；
随机误差项随机误差项 不可观测，但残差不可观测，但残差 是是 的估计值，的估计值，
因此可以用因此可以用 的方差作为随机误差项的方差作为随机误差项 的方差的方差 的估的估
计值（估计量）。计值（估计量）。
可以证明，总体方差可以证明，总体方差 的无偏估计量的无偏估计量 为为：：
即：即：
（（22）随机误差项）随机误差项 的方差的方差 的估计的估计
为了计算方便为了计算方便 起见，也可以采用如下计算形式：起见，也可以采用如下计算形式：
随机误差项方差的估计量随机误差项方差的估计量 的平方根的平方根
称为称为回归方程的估计标准误差回归方程的估计标准误差，记为，记为 ，即：，即：
估计标准误差估计标准误差 是用来反映被解释变量的实际观测值是用来反映被解释变量的实际观测值
与估计值与估计值 的平均偏离程度的指标；的平均偏离程度的指标； 越小，则回归直越小，则回归直
线精度越高，代表性越好；当线精度越高，代表性越好；当 时，表示所有的样时，表示所有的样
本点都落在回归直线上，解释变量与被解释变量之间表本点都落在回归直线上，解释变量与被解释变量之间表
现为函数关系。现为函数关系。
（（22）随机误差项）随机误差项 的方差的方差 的估计的估计
用无偏估计量用无偏估计量 去代替去代替 ，可计算参数估计量，可计算参数估计量
和和 的标准差（方差）：的标准差（方差）：
的样本标准差的样本标准差：：
的样本标准差的样本标准差：：
第二节一元线性回归模型参数估计的要求
掌握线性回归模型的几条基本假设；
理解最小二乘原理；
掌握一元线性回归模型参数的最小二乘估计
量，掌握最小二乘估计量的统计性质（线性性、
无偏性和最小方差性）；
了解参数估计量的概率分布，了解随机误差项
方差的估计；
熟悉Eviews软件的数据输入等基本操作和最小
二乘估计。
