一一 、、 参数的点估计参数的点估计
设总体X的分布函数的形式为已知,但它的一个或多
个参数为未知,借助于总体X的一个样本来估计总体未知
参数的值的问题称为参数的点估计问题.
例1 在某炸药制造厂,一天中发生着火现象的次数
X是一个随机变量,假设它服从以>0为参数的泊松分布
,参数为未知。设有以下的样本值,试估计参数 。
着火次数k 0 1 2 3 4 5 6
发生K次着火的天数nk 75 90 54 22 6 2 1 =250
解 由于X()故有=E(X).我们自然想到用样本
均值来估计总体的均值E(X).现由已知数据计算得到
得估计 E(X) =的估计值为。
点估计问题的一般提法:设总体X的分布函数
F(X;)
的形式为已知,为待估参数。X1 ,X2 ,. . ., Xn是X的一个
样
本, x1 ,x2 ,. . .,xn是相应的一个样本值. 点估计问题就
是要
构造一个适当的统计量 (X1 , X2 , . . . , Xn), 用它的观
察值
(x1 ,x2 , . . . ,xn)来估计未知参数, 我们称 (X1 ,X2
,...,Xn)为
的估计量, (x1 ,x2 , . . . ,xn)为的估计值.在不致混淆
的情
况下统称估计量和估计值为估计。并都简记为 。
如在例1中,用样本均值估计总体均值。即有估计量
估计值
二、 矩估计法
设X为连续型随机变量, 其概率密度为f(x;1, 2 ,
...,k),或X为离散型随机变量, 其分布规律为PX = x
=
p(x;1 ,2 ,…,k)其中1,2,…,k为待估参数,X1 ,
X2 ,
. . ., Xn是来自X的样本, 假设总体X的前 k 阶距
(X连续型)
或
(X离散型)
l = 1 , 2 , · · · , k
(其中R(x)是x可能取值的范围)存在. 一般来说, 它们是
1,
2 ,...,k的函数。基于样本矩
依概率收敛于总体矩 l ( l = 1 , 2 , · · · , k)样本矩的连续函
数依概率收敛于相应的总体矩函数,故用样本矩作为总
体矩的估计量,而以样本矩的连续函数作为相应的总体
矩的连续函数的估计量,这种方法称为矩估计法,具体
作法是:令
l = Al , l = 1 , 2 , · · · , k
这是包含k个未知参数1,2,...,k,的联立方程组,
用解 1, 2,…, k作为估计量,这种估计量称为矩估计量。
矩估计量的观察值称为矩估计值。
例2 设总体X在[a ,b]上服从均匀分布, a, b未知.
X1,
X 2, . . ., Xn是一个样本,试求a ,b的矩估计值。
令
解上述联立方程组,得到a,b的矩估计量为
例3 设总体X的均值及方差s2都存在,且有s2 >0.
但, s2均未知。又设X1, X2 , ···· , Xn是一个样本。
试求
,s2的矩估计量。
或即
解 1=E(X)=,
2=E(X2)=D(X)+[E(X)]2 =s2+2,
令 = A1 ,
s2+2=A2 .
解上述方程组,得和s2的矩估计量分别为
所得结果表明,总体均值与方差的矩估计量的表达式不因
不同的总体分布而异。
例如,X~N(,s2), , s2未知,即得, s2的矩估计量
为
三三 、、 极大似然估计法极大似然估计法
例 1 某学员与一位神枪手一同进行实弹射击,各打
一发,同一靶,仅中一发,试问认为这一发是谁打中较合
理?
例 2 假设在一罐中放有许多白球和黑球,并知两种
球的数目之比是1:3; 但不知那种球的颜色多. (现抽一球,
为黑的概率可能是3/4,也可能是1/4)。今连抽两球,全
为黑球。问袋中黑球多还是白球多?
解 直观上可以回答。现以概率的角度考虑。设抽
一球为黑球的概率为p,抽n个而出现x个黑球的概率服
从b(n, p).
这就是说,罐中黑球多时,出现两个全黑的的概率
比白球多时出现两个全黑的概率大的多,或说使n=2的样
本来自p=1/4的总体的可能性大的多。用到“概率最大
的
事情最可能出现”原理, 从参数角度,对总体p
有
供选择者较多,自然选最大者作p的估计,此方法称为极
大似然估计法。
设X为离散型, 分布律为P{X=x}=p{x;,(连续型, 其
概率密度f(x,)), Q的形式已知,为待估参数,Q是
可能取值的范围。设X1, X2 , ···· , Xn是来自X的
样本,则
X1, X2 , ···· , Xn的分布律(联合密度)为
易知样本X1, X2 , ···· , Xn取到观察值x1, x2 ,
···· , xn的概率
即事件{X1,= x1 , X2 ,=x2, ···· , Xn=xn}发生的概率
这一概率随的取值而变化,它是的函数。 L()称为样本
的似然函数
由Fisher引进的极大似然估计法,就是固定样本观察
值x1, x2 , ···· , xn,在 的可能取值的范围Q内 挑选
使概率L(x1, x2 , ···· , xn; )达到最大的参数值,
作为参数的估计值 。即取使
若总体X为连续型,设x1, x2 , ···· , xn是相应于
样本X1, X2 , ···· , Xn的一个样本值, 则随机点(X1,
X2 , ···· , Xn)近似地落在点(x1, x2 ,···· ,xn)
的邻域(边长为dx1, dx2 , ···· , dxn的n维立方体)内
的概率近似为
这样得到的 与样本观察值x1, x2 , ···· , xn有关,
记作
称为参数的极大似然估计值,称统计量
类似,引入函数
为的极大似然估计量。
则L()称为样本的似然函数。若
为的极大似然估计值,称
求法:若p(x ; )或f(x ; )可微, 这时可从方
程
求得,也可从
为的极大似然估计量。
求得
例4 设X~B(1, p). X1, X2 , ···· , Xn是来自X的一
个样本,
试求参数p的极大似然估计量。
解 设x1, x2 , ···· , xn 是来自X1, X2 , ····
, Xn 的一个样本
值。X的分布律为
P{X=x}=px(1-p)1-x , x=0, 1.
故似然函数为
而
令
解得p的极大似然估计值
p的极大似然估计量为
极大似然估计法适用于多个参数。若似然函数为
L(1 ,2 ,····,k),则求关于i的偏倒数即可。
例5 设X~N(,s2), , s2为未知参数 , x1, x2 ,
···· , xn
是来自X的一个样本值。求, s2的极大似然估计量。
解 X的概率密度为
似然函数为
而
令
因此得, s2 的极大似然估计量分别为
它们与相应的矩估计量相同。
例6 设总体X在[a, b]上服从均匀分布,a, b未知,
x1,
x2 , ···· , xn是一个样本值, 试求a, b的极大似然估计
量。
解 记 x(1)=min(x1, x2 , ···· , xn), x(n)=max
(x1, x2 , ···· ,
xn). X的概率密度是
于是对于满足条件ax(1), bx(n) 的任意a, b有
由于a x1, x2 , ···· , xnb,等价于ax(1) , x(n)
b.作为a,b的
函数的似然函数为
即L(a,b)在a=x(1) , b=x(n)时取到最大值(x(1) -x(n) )-n.故
a, b
的极大似然估计值为
a, b的极大似然估计量为
极大似然估计的性质
当总体分布中含有多个未知参数时,也具有以上性
质。例如,在例5中已得到的极大似然估计为
根据上述性质,得到标准差s的极大似然估计为
其中x1, x2 , ···· , xn)是X的一个
样本值。