第七章 参数估计
参数估计就是要从样本出发构造一些统计量作
为总体某些参数(或数字特征)的估计量。
点估计就是构造统计量。
j=1,2,…n
以 的值作为 的近似值。对 进行估计,叫(点)
估计量。若样本值代入 称为 的估
计值。
区间估计是根据样本构造出适当的区间,它以一
定的概率包含未知参数。
§ 点估计
(一)矩估计法
1.矩估计法的基本思想
在总体的各阶矩存在的条件下,用样本的各阶矩
去估计总体相应的各阶矩,又由于总体的分布类
型已知,总体的各阶矩可表示为未知参数的已知
j ),( 21 nj XXX
j j j
),(
21 nj
xxx
j
函数,这样样本的各阶矩就与未知参数的已知函
数联系起来,从而得到参数的各阶矩。
2.一般求法
② =1,2…k
=1,2…k
② 令 =1,2…k
②将 代入②中, =1,2…k
例 2 P159 总体 X~U[a,b],参数 a,b 未知,求 a,b
的矩估计。
例 3 P160
以下为第一版例。
例 7:总体 X~U[0,b],参数 b 未知,求 b 的矩估
计。
),()( 21 kl
l
l gXEm l
),,( 21 kl mmmh l
n
i
l
il
l
l xn
MXEm
1
1
)( l
lm ),( 21
kll mmmh l
例 8:总体 , 未知,已知
是来自总体 X 的样本值,求 的矩估计。
例 9:总体的概率密度为
参数 均未知, 是来
自总体的样本,求 的矩估计。
3.总体的数学期望与方差的矩估计
已知总体的二阶矩存在, 是来自总
体的样本值。E(X),D(X)的矩估计是
注意: 此结论用于只要 E(x)、D(x)存在的,不
论分布是否已知的各类型总体的数字特征 E(X)、
D(X)的矩估计。
例:总体 X~B(N,p), 参数 N、0<p<1 均未知,
已知 是来自总体的样本值,求 N,p 的
),(~ 2NX 2, nxxx 21,
2,
1
1
)(
221
0
1
),;(
2
1
x
xe
xf
x
,02 1 nxxx 21,
21 ,
nxxx 21,
XXE )(ˆ '22
1
)(
1
)( Mxx
n
XD
n
i
i
nxxx 21,
矩估计 。
(二) 最大似然估计法
1.最大似然估计法的基本思想
例:设在一个口袋中装有许多白球和黑球,但不
知是黑球多还是白球多,只知道两种球的数量之
比为 1:3 就是说抽取到黑球的概率 为 或 。
如果用有放回抽取的方法从口袋中抽取 n=3 个
球,发现有一个是黑球,试判断 p=?。
X
0
1
2
3
当 时,P(取的三个球中有一个黑球)=
大。选取参数 总体较合理。故取 p 的估计
p 4
1
4
3
)
4
3
,( XP
64
1
64
9
64
27
64
27
)
4
1
,( XP
64
27
64
27
64
9
64
1
4
1
P
64
27
4
1
P
值 。
最大似然估计基本思想:根据样本的具体情况,
选择参数 p 的估计 ,使得该样本发生的概率
最大。
2.最大似然估计的求法
设总体 的形式已知,参数 未
知(j=1,2…m), 是来自总体的样本值。
记 ,选择参数的估计 ,
使样本 取值 附近的概率
…
=
= 达到最大,
等价使 达到最大。
称 L=L( )= 为
样本值 的似然函数。
定义 如果似然函数 L=L( )在
4
1ˆ P
p
),;(~ 21 mxfX j
nxxx 21,
m
,...,,
21
m 21 ,
),...,,(
21 n
XXX ),...,,(
21 n
xxx
,{
1111
xxXxP ,
2222
xxXx , },
nnnn
xxXx
{
1
PX
n
ii
独立 },
iiii
xxXx
i
xx
x
i
n
i
dxxf
ii
i
,
1
n
i
mixf
1
21; ),(
i
x
n
i
mixf
1
21; ),(
mn
xxx
21;21
,,
n
i
mi
xf
1
21;
),(
nxxx 21,
mn
xxx
21;21
,,
达到最大值,则称 分别为
的最大似然估计。
2.一般步骤
(1).当似然函数可微且参数集合是开集的条件下:
总体 ,
i =1,2…n
L=L( )=
取对数
②
②由似然方程解出 =?.。讨论 是最大值点,
则它是 的最大似然估计。
例 4 P162 ,求未知参数 的最大
似然估计。
例 5 P163 总体 , 未知, 已知
是来自总体 X 的样本值,求 的最
大似然估计。
m 21 ,
m 21 ,
m 21,
),;(~ 21 mxfX
),;(~ 21 mii xfX
mn
xxx
21;21
,,
n
i
mi
xf
1
21;
),(
n
i
L
1
lnln ),;( 21 mixf
m1,2j0
i
n Ll
j
j
j
),1(~ pBX p
),(~ 2NX 2,
nxxx 21,
2,
例 6 P165 总体 X~U[a,b],参数 a,b 未知,
已知 是来自总体的样本值,求 b 的最大
似然估计。
以下为第一版例。
例 2:总体 =
参数 未知, 是来自总体的样本值,
求 的最大似然估计。
例 3: ,求未知参数 的最大似然估
计。[见书 P159,例 ]
总体 X 是离散值,一定要写出 X 的概率函数。
例 4:一个罐子里装有黑球和白球,每次从中随
机的有放回地抽取一个球,直到抽到黑球为止。
设停止抽球时所需抽取数是 X,这样独立重复的
进行了 n 次实验,获得样本 ,试求罐
子里黑球所占的比例中的最大似然估计。
nxxx 21,
),(~ xFX
00
01
x
xe x
0 nxxx 21,
),1(~ pBX p
n
xxx
21
,
例 5:X 服从参数为 的威布尔分布,而
=
m>0, >0 且 未知, 是来自总体
的样本值,求参数的最大似然估计。
(2)当似然函数 L 不可数时,或似然函数无解,
要用定义求参数的最大似然估计。
例 6:总体 X~U[0,b],参数 b 未知, 已知
是来自总体的样本值,求 b 的最大似然估计。
3.未知参数的已知函数的最大似然估计有如下
规定:
若 , 未 知 参 数 的 已 知 函 数 为
, 分别为 的最大似然估
计,则规定 g( )为 g( )的最大似然估计。
例:P 习题 。
§ 估计量评选标准
,m
),:(~ mxfX
00
0
x
x
m
m
,m nxxx 21 ,
nxxx 21,
),;(~ 21 mxfX
),;( 21 mxg
m 21 , m 21,
m 21, m 21,
180
1.无偏性:
定义:设 ( )是 的估计量,若 E( )=
,对一切 ,则称 为 的无偏估计量,否则
称为 的有偏估计量。其偏差度为 = E( )- 。
如果 E( )= ,则称 为 的渐近无偏估计量。
书上定义是对 g( )而言的:
定义:设未知参数的已知函数 g( )的估计量为
,如果对一切 都有
则称 为 的无偏估计量。
例 10:设总体有二阶矩,E(X)= ,D(X)= 存
在, 是该总体的样本,证明 为 的无
偏估计, 为 的无偏估计,但 不是 的无
偏估计,是 的渐近无偏估计。
例 11:总体 X~U[a,b],b>0,试问 b 的矩估计
nxxx 21,
nb
n
lim
)...,( 21 nXXX
)()]...,([ 21 gXXXE n
2
nXXX ..., 21
X
2s 2 '2M 2
2
是否是 b 的无偏估计量。
注意:
(1)若 为 的无偏估计,g( )为 的已知函数,
而 g( )不一定是 g( )的无偏估计。
(2)有时 的有偏估计也可稍加修改为无偏估计。
例:设 , 是 的无偏估计,但 不是
的无偏估计,可修改为 它是 的无
偏估计。
2.有效性
定义:若 和 都为 的无偏估计量。若 ,
且至少对一个 ,有严格不等号成立,
则称 比 有效。
例 12 : 比 较 , ,( ) 。 估 计
,哪个有效。
定 义 : 设 和 都 是
g( )的估计量, 如果对一切 都有
-g( )] - g( )]
Xb 2
),(~ 2NX X
2
X
2 ,
2
2
2
n
s
X
2X
1
2 )()( 21
DD
0
1
2
X
1
n
i
ii
x
1
2̂
1
1
n
i
i
)( XE
1 )...,( 21 nXXX 2 )...,( 21 nXXX
[E 1 )...,( 21 nXXX 2 [E 2 )...,( 21 nXXX 2
且存在 ,有严格不等号成立,则称 比
有效。
此定义为均方误差准则。
3.相合性(一致估计量)
定义 :设 g( )的估计量为 ,如果
对任意的 >0,都有
=1
则称 为 的相合估计量。
§ 区间估计
一.基本概念
设 , 是两个统计量,且满足
,则称[A,B]为一随机区间。
定义 :对于给定的正数 ,如果对一
切 都有
则称[A,B]为 的置信度为 的置信区间,称
为置信区间的置信度,称 A、B 分别为置信
下限和置信上限。
常用的形式:
0 1 2
)...,( 21 nXXX
n
lim })(),({ ......21 gXXXp n
)(g
)...,( 21 nXXXA )...,( 21 nXXXB
BA
)10(
1)}...,()()...,({ 2121 nn XXXBgXXXAP
)(g 1
1
例:某旅游社为调查当地每一旅游者的平均消费
额,随机访问了 100 名旅游者,得知平均消费额
(元)。根据经验,已知旅游者消费额服从
正态分布 ,且标准差 (元),那麽该地
旅游者平均消费额 的置信度为 95%的置信区
间是什麽。
设旅游者消费额为 ,且知 ,此题
是求 的置信区间的问题。
(1)找 的较好点估计(最大似然估计或无
偏估计), 。
(2)为使 ,
要选有关 与 的函数且知其分布。当已知 时,
,
称 为枢轴变量。对给定的 ,使
1)}...,()...,({ 2121 nn XXXBXXXAP
80X
2,N 12
X 212,~ NX
X
%951 KXP
X
1,0~
/
N
n
X
u
u
1
/ 2
u
n
X
P
(3)将不等式 等价变形
本例,计算
得到,当地每位旅游者置信度为 95%的平均消
费额在[ 元, 元]之间。
Data;
u=probit( u=;
A=80-(u*12)/sqrt(100); put A=;
B=80+(u*12)/sqrt(100); put B=;
run;
u=
A=
B=
定义: 叫区间半径, 叫区间中心,
2/
||
u
n
X
n
uX
n
uX
22
2
n
uXA
2
n
uXB
n
d
X
叫区间长度。
二.置信区间的一般求法 (枢轴量法)
(1)从 的一个较好点估计 出发,
构造 与 的一个函数 ,
且知其分布又与 无关,函数 H 称为枢轴变量。
(2)记 H 的上 分为数和上(1- )分位数为 和
,使对给定的 ,有
利用不等式运算,将不等式
进行等价变形,使得最后得到形如:
的不等式。
则 就是 的 置信区间,这时有:
ABdL 或2
)...,(ˆ
21 n
XXX
]),...,(ˆ[ 21 nXXXH
2
2
2
h
21
h )10(
1}]),...,(ˆ[{
2
21
2
1
hXXXHhP n
),(),,( 2121 nn xxxBxxxA
BA, 1
1)()(
22
1
hHhPBAP
2
21
2
1
]),...,(ˆ[ hXXXHh n
定 义 : 叫 区 间 半 径 , 或
叫区间长度。
例 1 P170,计算机实现过程。
Data;
z=probit( z=;
A=-(z*1)/sqrt(16); put A=;
B=+(z*1)/sqrt(16); put B=;
C=B-A; put C=;
run;
z=
A=
B=
C=
P171 页下面部分的数值解释。
Data;
u1=probit();put u1=;
u2=probit();put u2=;
A=+(u1*1)/sqrt(16); put A=;
B=+(u2*1)/sqrt(16); put B=;
C=B-A; put C=;
run;
u1=
u2=
A=
B=
2
0
u
n
d dL 2
ABL
C=
三.正态总体的参数的区间估计
1.一个正态总体的均值、方差的置信区间
设总体 , 是来自总体 的样本
(1) 已知,均值 的置信度为 的置信区间为:
(2) 未知,均值 的置信度为 的置信区间为:
。
(3) 未知,方差 的置信度为 的置信区间为:
的 的置信区间为:
),(~ 2NX nXXX ,, 21 X
2 1
n
uX
2
2 1
n
s
uX
n )1(
2
2 1
)1(
)1(
,
)1(
)1(
2
2
1
2
2
2
2
n
sn
n
sn
1
)1(
)1(
,
)1(
)1(
2
2
1
2
2
2
2
n
sn
n
sn
2.两个正态总体均值差方差比的置信区间
总体 样本 均值 样本方
差
两个样本相互独立。
(1) 已知,均值差 的置信区间为
(2) 未知,但 , 的置信区间
为
[ ]
(3) 未知,方差比 的置信区间为:
[ ]
(4) 已知, 的置信区间为:
),(~ 211 NX nXXX ,, 21 X
2
1s
),(~ 222 NY nYYY ,, 21 Y
2
2s
2
2
2
1 , 21
][
2
2
2
1
2
1
2 nn
uYX
2
2
2
1 ,
22
2
2
1 21
21
21
2
11
)2(
nn
SnntYX w
21, 2
2
2
1
,
)1,1( 21
2
2
2
2
1
nnF
ss
)1,1( 21
2
1
2
2
2
1
nnF
ss
21, 2
2
2
1
[ ]
例1 P174
Data;
t=TINV(( put t=;
A=-t* put A=;
B=+t* put B=;
C=B-A; put C=;
run;
t=
A=
B=
C=
例 2 P175
Data;
k1=CINV( 15);put k1=;
k2=CINV( 15);put k2=;
A=sqrt(15)* put A=;
B= sqrt(15)* put B=;
C=B-A; put C=;
run;
k1=
k2=
A=
B=
C=
,
)(
)()(
2,1
2
1
2
2
1
2
1
1
2
21
nnF
YX
n
n
n
j
j
n
i
i
)(
)()(
2,1
2
1
1
2
2
1
2
1
1
2
21
nnF
YX
n
n
n
j
j
n
i
i
例 3 P177
Data;
t=tINV( 28);put t=;
sw=sqrt((9***2+19***2)/28); put sw=;
A=500-496-sw*t*sqrt(1/10+1/20); put A=;
B=500-496+sw*t*sqrt(1/10+1/20); put B=;
C=B-A; put C=;
run;
t=
sw=
A=
B=
C=
例 4 P177
Data;
t=tINV( 14);put t=;
sw=sqrt((7*+7*)/14); put sw=;
A=-sw*t*sqrt(1/8+1/8); put A=;
B=+sw*t*sqrt(1/8+1/8); put B=;
C=B-A; put C=;
run;
t=
sw=
A=
B=
C=
例 5 P179
data ;
F1=FINV( 17,12) ; put F1=;
F2=FINV( 17,12) ; put F2=;
A= put A=;
B= put B=;
C=B-A; put C=;
Run;
F1=
F2=
A=
B=
C=
§ (0---1)分布参数的区间估计
P179
例 P180
data;
z=probit( z=;
a=100+z**2; put a=;
b=-(2*100*+z**2); put b=;
c=100***2; put c=;
p1=1/(2*a)*(-b-sqrt(b**2-4*a*c)); put p1=;
p2=1/(2*a)*(-b+sqrt(b**2-4*a*c)); put p2=;
p=p2-p1; put p=;
run;
z=
a=
b=
c=36
p1=
p2=
p=
§ 单侧置信区间
对于均值,单侧置信区间下限。公式()
对于方差,单侧置信区间上限。公式()
例 P182
Data;
t=tINV(, 4);put t=;
mu=1160-sqrt(9950/5)*t; put mu=;
run;
t=
mu=
习题:
1,2,3,5,6,10,14,15,19,25