§ 一元线性回归
两个变量之间的相关系数能表明两者之间关系的密切程度,但无法用一个变量去估计另一个变量。
回归分析则可做到这一点,用自变量去估计或预测因变量。回归分析首先要区分自变量和因变量,自变量是“因”,因变量是“果”,然后建立一个方程去描述这个因果关系,即要找出两者之间关系的数学表达式,这就是一元回归;如果两个变量是线性关系.称为一元线性回归。
设相关关系的两个变量为 和 , 的值由两部分构成:一部分由 的影响确定, 用 的 函数 表示,称为回归函数;另一部分则由众多不确定性因素影响产生,可看成 取值的随机波动,记为 ,并且假定其平均值为零,即 。于是得到数学模型:
上式称为回归模型,它表明当 取某个数值时, 并不必然表现为一个确定的值,而是在 附近波动,但其平均数在大量观察下趋向于确定的值 。
图8-10 企业产量与生产费用散点图
我们容易看出企业产量 和生产费用 之间的散点图大致呈直线关系。但图形中的各点并不都在—条直线上,而是围绕着直线上下波动,有的在直线上面,有的在直线下面。
各散点的坐标满足方程
对于这样的散点图,我们认为 与 之间线性相关,回归函数 是线性函数,即
此时,回归模型为
()式称为一元线性回归函数,()称为一元线性回归模型。
直线截距
直线斜率
也叫做 对 的回归系数,它表示 每变动一个单位所引起的 的平均变动量
残差(也称为回归误差或预测误差),代表除 外的其它次要因素形成的随机扰动。
当样本量较大时,正负干扰可相互抵消,所以我们认为 的均值为0。
回归分析的主要任务就是确定回归方程的参数 、 并判定回归函数()式是否合理。
怎样确定?
?
越小越好
常用的方法是最小二乘法(Least squares,简记为LS)。它使残差平方和(residuals sum of squares :RSS)最小,即使
最小
在计算上应先求 再求 。用最小二乘法拟合的回归方程有三个性质:
(1) ,即回归误差可以相互抵消。
(2)所拟合的回归线通过均值点 ,即通过散点图的重心,因而预测值 的均值等于实际值 的均值。
(3)残差 和 、 之间无相关关系。
利用求极值的方法可解得:
案例 根据表8-5中有关数据,确定该企业生产费用对产量的回归方程,并说明产量对生产费用的影响大小。
表8-5 企业生产费用与产量相关系数计算表
解:
由于产量多少决定着生产费用的多少,所以以产量x为自变量,生产费用y为因变量。
代入(),得
所求的生产费用对产量的回归方程为:
它说明该企业产量每增加1千吨,生产费用平均增加万元。
案例某省1990-2000年工业产值y与农业产值x的统计数据(单位:亿元)如表中第2、3列所示。试求工业产值对农业产值的回归函数。
94
76
平均
102216
63860
79769
1034
836
∑
4624
4761
4900
6561
7225
7396
10000
11664
12996
14400
17689
4624
5041
5184
4900
5776
5929
5776
6084
6241
6561
7744
4624
4899
5040
5670
6460
6622
7600
8424
9006
9720
11704
68
69
70
81
85
86
100
108
114
120
133
68
71
72
70
76
77
76
78
79
81
88
1990
1991
1992
1993
1994
1995
1996
1997
1998
1999
2000
y2
x2
xy
y
x
年份
解:
建立y对x的一元线性回归方程,由表可知
根据公式(),有
从而y对x的线性回归方程为:
二、可线性化的一元回归问题
常见的非线性函数及其转化为线性函数的方法:
1、双曲线 (图8-17)
令 ,则有
2、幂函数曲线 ( 图8-18 )
令 ,则有
3、数函数曲线 (图8-19)
令 ,则有
4、负指数函数曲线 (图8-20)
令 ,则有
5、对数曲线 (图8-21)
令 ,则有
案例某商店历年销售肥皂统计资料如下:
200
165
140
120
110
104
95
销售量y(箱)
1996
1995
1994
1993
1992
1991
1990
年度x
试用指数曲线预测1998年的肥皂销量。
解:
设 令 为了计算方便,再定义 ,列表计算如下:
28
934
0
∑
9
200
3
7
4
165
2
6
1
140
1
5
0
120
0
4
1
110
-1
3
4
104
-2
2
9
95
-3
1
由公式 ()有
所以
已知1996年的序号是 ,那么1998年应为
所以预计1998年的销量为
三、 线性回归模型的拟合优度
y
o
x
SRF
总离差
来自残差
来自回归
图8-22 总变异分解为两部分
可以证明,对最小二乘法,如下等式成立:
总平方和SST
残差平方和SSE
回归平方和SSR
越大,则 越小,因而回归方程的拟合程度越高。
定义
即
称 为可决系数(也叫做判定系数)。 越大,说明回归平方和占总平方和的比例越大,残差平方和占总平方和的比例越小,回归直线拟合优度越好。
解:
通过计算可得:
根据公式()
若 查表得 ,由于实际的F值大于,拒绝原假设,说明生产费用与产量之间的线性关系是显著的。再根据公式 ()可得。
说明回归方程的拟合程度是较高的。
案例 讨论案例中回归模型的拟合优度。
随堂练习
1、直线回归方程 中,参数 的经济意义。
答:
参数 的经济意义, 代表经济现象经过修匀的基础水平; 称为回归系数,表示: 每变动一个单位时.影响 平均变动的数量。
2、某企业生产的某种产品的产量与单位成本资料如下表
78
6
8
76
7
7
77
6
6
78
5
5
82
4
4
80
5
3
81
4
2
82
3
1
单位成本y(元)
产量X(千台)
月份
(1)确定直线回归方程,并说明回归系数的意义。
(2)测算产量为6500台时,单位成本为多少?
解:
由已知条件可计算出:
(1) 由式可计算出:
的意义:
当产量每增加1干台时,单位成本平均下降约元
(2)当x=6.5时,代入回归方程有:
所以产量为6500台时,单位成本为元
3、试述相关分析与回归分析的关系。
答:
(2)对两个变量x与y而言,相关分析只能计算一个反映两变量相关密切程度的相关系效,回归分析有时可根据研究目的不同分别建立两个不同的回归方程;
二者的区别有
(1)相关分析所研究的两个变量是对等关系,回归分析所研究的两个变量不是对等关系,必须根据研究目的确定自变量和因变量
(3)相关分析的两变量都必须是随机变量.回归分析的自变量是给定的变量,而因变量是随机变量。
(1)相关分析是回归分析的基础和前提;
(2)回归分析是相关分析的深人和继续。
二者的联系: