第五章 参数估计和假设检验
推断统计:推断统计:利用样本统计量对总体某些性质或数量
特征进行推断。
随机原则
总体参数
统计量
推断估计
参数估计
检验
假设检验
抽样分布
抽样分布
简单随机抽样和简单随机样本的性质
不放回
放 回
放回
不放 回
独
立
性
和
同
一
性
同一性
当n/N≤5%时,
有限总体不放回
抽样等同于放回
抽样
P-121
统计量与抽样分布
•统计量:即样本指标。
样本均值
样本成数
样本方差
如:
•抽样分布:某一统计量所有可能的样本的取值形成
的概率分布。
性 质 数字特征
0≤P(Xi)1
∑P(Xi)=1
均值E(X)
方差E[x-E(x)]2
样本均值的抽样分布(简称均值的分布)
抽样
均值
均值μ=∑Xi/N
样本均值是样本的函数,故样本均值是一个统计量,
统计量是一个随机变量,它的概率分布称为样本均
值的抽样分布。
样本均值的抽样分布
【【例例】】设一个总体,含有4个元素(个体),即总体单
位数N=4。4 个个体分别为X1=1、X2=2、X3=3 、X4=4
。总体的均值、方差及分布如下
均值和方差均值和方差
总体分布总体分布
11 4422 33
00
.
..
22
.
样本均值的抽样分布
现从总体中抽取n=2的简单随机样本,在重复
抽样条件下,共有42=16个样本。所有样本的结果
如下表
•3,4•3,3•3,2•3,1•3
•2,4•2,3•2,2•2,1•2
•4,4•4,3•4,2•4,1•4
•1,4
•4
•1,3
•3•2•1
•1,2•1,1•1
•第二个观察值•第一个
•观察值
•所有可能的n = 2 的样本(共16个)
样本均值的抽样分布
计算出各样本的均值,如下表。并给出样本均
值的抽样分布
•••••3
•••••2
•••••4
•
•4
•
•3•2•1
•••1
•第二个观察值•第一个
•观察值
•16个样本的均值(x)
样本均值的抽样分布样本均值的抽样分布
00
.
.
. P P ( ( x x ))
xx
所有样本均值的均值和方差
式中:M为样本数目
比较及结论:1. 样本均值的均值(数学期望)等于总体均值
2. 样本均值的方差等于总体方差的1/n
抽 样 方 法 均 值 方 差 标 准差
(1)从无
限总体抽 样
和有限总体
放回抽样
(2)从有限
总体不放回
抽样
抽样误差
抽样误差
样本均值的抽样分布
与中心极限定理
= 50= 50
=10=10
XX
总体分布总体分布
n = 4
抽样分布抽样分布
n =16
当总体服从正态分布N ~ (μ,σ2 )时,来自该总体的所
有容量为n的样本的均值X也服从正态分布,X 的
数学期望为μ,方差为σ2/n。即X~N(μ,σ2/n)
中心极限定理
(图示)
当样本容量足够
大时(n 30) ,
样本均值的抽样
分布逐渐趋于正
态分布
中心极限定理:设从均值为,方差为 2的一个任意总
体中抽取容量为n的样本,当n充分大时,样本均值的抽
样分布近似服从均值为μ、方差为σ2/n的正态分布
一个任意分
布的总体
XX
关于均值的抽样分布有如下的一些结论:
1.对于多数总体分布来说,不论其形态如何,
如果样本观察值超过30个,那么均值的抽样分
布将近似于正态分布。
2.如果总体是正态分布的,则不管样本大小如
何,均值的抽样分布一定是正态分布。
两个样本均值之差的抽样分布
抽样
抽样
估计
(1)如:两个正态总体
(2〕如果两个总体都是非
正态总体,只要n1、n2足够
大,根据中心极限定理,可
知:
样本成数(即比例)的抽样分布(简称成数的分布)
抽样
成数成数P=Ni/N
所有可能的样本的成数( )所形成的分布,称
为样本成数的抽样分布。
抽 样 方 法 均 值 方 差 标 准差
(1)从无
限总体抽 样
和有限总体
放回抽样
(2)从有限
总体不放回
抽样
根据中心极限定理,只要样本足够大, 的分布就近
似正态分布。(np和nq大于5时)
抽样误差
抽样误差
两个样本成数之差的抽样分布
抽样
抽样
估计
当n1、n2都足够大时,样本成
数 都近似服从正态分布,
两个样本成数之差( )也
近似服从正态分布。
P1-P2=?
一个样本方差的抽样分布
抽样
从一个正态总体中抽样所得到的样本方差的分布
n,S2
则
当
两个样本方差之比的抽样分布
抽样
从两个正态总体中分别独立抽样所得到的两个
样本方差之比的抽样分布。
n1,S12
则
抽样 n2,S22
参数估计
点估计 以样本指标直接估计总体参数。
评价准则
的数学期望
等于总体参
数,即
该估计量称为
无偏估计。
无偏性 有效性
当 为 的无
偏估计时, 方
差 越小,
无偏估计越有
效。
一致性
对于无限总体,
如果对任意
则称
的一致估计。
是
充分性
一个估计
量如能完
全地包含
未知参数
信息,即
为充分量
估计量
点估计 常用的求点估计量的方法
1.数字特征法: 当样本容量增大时 ,用样本的数字特征
去估计总体的数字特征。
例如,我们可以用样本平均数(或成数)和样本方差来
估计总体的均值(或比率)和方差。
区间估计 估计未知参数所在的可能的区间。
评价准则
随机区间
置信度 精确度
随机区间
包含
(即可靠程度)
越大越好。
的概率 的平均长度
(误差范围)
越小越好
一般形式
或
总体参数 点估计值 误差范围
△:一定倍数的抽样误差
例如:
抽样误差 一定时, 越大,
概率(可靠性)大; 随之增大,
精确度就差。
参数的区间估计
待估计参数 已知条件 置信区间
正态总体,σ2已知
正态总体,σ2未知
非正态总体,n≥30
有限总体,n≥30
(不放回抽样)
总体均值
(μ)
σ未知时,用S
σ未知时,用S
两个正态总体 已知
两个正态总体 未知但相等
两个非正态总体 ,n1,n2≥30
两个总体
均值之差
μ1-μ2
待估计参数 已知条件 置信区间
无限总体,
np和nq都大于5
总体成数
(p)
无限总体,
N1P1>5, n1q1>5
N2P2>5, n2q2>5
两个总体
成数之差
(P1-P2)
有限总体,
np和nq都大于5
有限总体,
N1P1>5, n1q1>5
N2P2>5, n2q2>5
待估计参数 已知条件 置信区间
正态总体总体方差
两个正态总体
两个总体
方差之比
样本数的确定
待估计参数 已知条件 样本数的确定
正态总体,σ2已知
总体均
值(μ)
例:误差范围
简
单
随
机
抽
样
有限总体,不放回抽样,
σ2已知
总体成数
(P)
服从正态分布
有限总体,不放回抽样
假设检验 基本思想
检验规则
检验步骤
常见的假设检验
方差分析
基本思想
•小概率原理:如果对总体的某种假设是真实真实的,那么不利于
或不能支持这一假设的事件A(小概率事件)
在一次试验中几乎不可能发生的;要是在一次在一次
试验试验中中AA竟然发生了竟然发生了,就有理由怀疑该假设的
真实性,拒绝拒绝这一假设。
总 体
(某种假设)
抽样
样 本
(观察结果)
检验
(接受) (拒绝)
小概率事件
未 发 生
小概率事件
发 生
•假设的形式:
H0——原假设, H1——备择假设
双尾检验:H0:μ=μ0 , H1:μ≠μ0
单尾检验: H0:μ = μ0 , H1:μ<μ0
H0:μ = μ0 , H1:μ>μ0
假设检验就是根据样本观察结果对原假设(H0)进行检验,
不拒绝H0,就否定H1;拒绝H0,就接受H1。
检验规则
••确定检验规则确定检验规则
检验过程是比较样本观察结果与总体假设的差异。差异显著,
超过了临界点,拒绝H0;反之,差异不显著,不拒绝H0
差 异 临界点临界点
拒绝拒绝HH00
接受接受HH00
cc
cc
判判 断断
•两类错误
不拒绝或拒绝H0,都可能犯错误
I类错误——弃真错误, 发生
的概率为α
II类错误——取伪错误,发生
的概率为β
检验决策 H0为真 H0非真
拒绝H0 犯I类错误(α) 正确
接受H0 正确 犯II类错误(β)
怎样确定c?
α大β就小,α小β就大
基本原则:力求在控制基本原则:力求在控制αα前提下减少前提下减少ββ
α——显著性水平,取值:, , , 等。如果犯I类错误
损失更大,为减少损失,α值取小;如果犯II类错误损失更,α
值取大。
确定α,就确定了临界点c。
①①设有总体:设有总体:X~NX~N((μμ,,σσ22),),σσ22已知。已知。
②②随机抽样:样本均值随机抽样:样本均值
③③ 标准化:标准化:
④④确定确定αα值,值,
⑤⑤查概率表,知临界值查概率表,知临界值
⑥⑥计算计算ZZ值,作出判断值,作出判断 0
不拒绝区不拒绝区 拒绝区拒绝区拒绝区拒绝区
当检验判断为不拒绝原假设H0时,就有可能犯取伪的错误即
II类错误。确定犯第Ⅱ类错误的概率β比较困难 ,具体计算可
根据书上的例子。
统计上把 称为统计检验的势,它是原假设实际上是错误的
应该被拒绝的概率。
II类错误的概率β的计算
检验步骤
根据具体问题的要求,
建立总体假设H0,H1
1
2 选择统计量
确定H0为真时的抽样分布
3 给定显著性水平α,当原假设
H0为真时,求出临界值。
计算检验统计量的数
值与临界值比较
4
几种常见的假设检验
条件 检验条件量 拒绝域H0、H1
(1) H0:μ=μ0
H1:μ≠μ0 z
(2) H0:μ = μ0
H1:μ>μ0
(3) H0:μ = μ0
H1:μ<μ0
z
0
z0
正态总
体σ2已
知
条件 检验条件量 拒绝域H0、H1
(1) H0:μ=μ0
H1:μ≠μ0 t
(2) H0:μ = μ0
H1:μ>μ0
(3) H0:μ = μ0
H1:μ<μ0
t
0
t
0
0
正态总
体σ2未
知(n<
30)
条件 检验条件量 拒绝域H0、H1
(1) H0:μ=μ0
H1:μ≠μ0 z
(2) H0:μ = μ0
H1:μ>μ0
(3) H0:μ = μ0
H1:μ<μ0
z
0
z
0
0
非正态
总体
n≥30
σ2已知
或未知
条件 检验条件量 拒绝域H0、H1
(1) H0: μ1=μ2
H1: μ1 ≠ μ2
z
(2) H0:μ1 = μ2
H1: μ1 > μ2
(3) H0: μ1 = μ2
H1:μ1 < μ2
z
0
z
0
0两个正
态总体
已知
条件 检验条件量 拒绝域H0、H1
(1) H0: μ1 = μ2
H1: μ1 ≠ μ2
t
(2) H0: μ1 = μ2
H1: μ1> μ2
(3) H0: μ1 = μ2
H1: μ1< μ2
t
0
t
0
0两个正
态总体
未知,
但相等
条件 检验条件量 拒绝域H0、H1
(1) H0:μ1 = μ2
H1:μ1 ≠ μ2
(2) H0:μ1 = μ2
H1:μ1 > μ2
(3) H0:μ1 = μ2
H1:μ1 < μ2
0
z
0
0
两个非
正态体
n1≥30
n2≥30
已知或
未知
z
z
条件 检验条件量 拒绝域H0、H1
(1) H0:P=P0
H1:P≠P0
z
(2) H0:P = P0
H1:P>P0
(3) H0:P = P0
H1:P<P0
z
0
z
0
0
np≥5
nq≥5
条件 检验条件量 拒绝域H0、H1
(1) H0:P1=P2
H1:P1 ≠P2
z
(2) H0: P1 ≤P2
H1:P1 > P2
(3) H0:P1 ≥P2
H1:P1 <P2
z
0
z
0
0n1p1≥5
n1q1≥5
n2p2≥5
n2q2≥5
条件 检验条件量 拒绝域H0、H1
总体服
从正态
分布
条件 检验条件量 拒绝域H0、H1
总体服
从正态
分布
F
F
F
方差分析
一、问题的提出
同一原材
料加工产
品质量
产
地
各组产品
的质量是
否有显著
差异?
随
机
原
则
一个班级
的学生,
某门课程
的成绩
地
域
分
组
各组学生的成
绩是否有显著
差异???
差异
随机误差
系统误差
随
机
原
则
加以比较
若存在显著性差异,则说明该因素的影响是显著的
二、假定条件
各组水平都服从正态分布,均值和方差未知,但
方差相同
(i=1,2,3,
···,k)
三、单因素方差分析
H0:各水平的均值相等 H1:各水平均值不全相等
总离差平方和=组间离差平方和+组内离差平方和
离差平方和:SST= SSB + SSE
自由度: n-1 = k-1 + n-k
方差: MST=MSB + MSE
检验量=系统误差/随机误差
即: F=MSB/MSE
检
验
规
则
因为:F= <
或 P() > ()
所以接受原假设,认为不同的家庭背景对学员成绩没
有显著影响。
四、不考虑交互作用的两因素方差分析
H0 (A):因素A的k个水平的均值相等 H1:不全相等
总离差平方和=组间离差平方和 +组内离差平方和
离差平方和:SST= SS(A)+SS(B)+ SSE
自由度: kh-1 = k-1 +h-1 + (k-1)(h-1)
方差: MST=MS(A)+MS(B) +MSE
检验量=系统误差/随机误差
即: F(A)=MS(A)/MSE F(B)=MS(B)/MSE
H0(B): 因素B的h个水平的均值相等 H1:不全相等
检
验
规
则
因为:F(A)=< F(B)=<
或 P(A)() > () P(B)() > ()
所以接受原假设,认为不同的机器设备和不同的工艺
方法对生产量都没有显著影响。
五、考虑交互作用的两因素方差分析
H0 (A):因素A的k个水平的均值相等 H1:不全相等
总离差平方和=组间离差平方和 +组内离差平方和
离差平方和:SST= SS(A)+SS(B)+SS(AB)+ SSE
自由度: khm-1 = k-1 + h-1 + (k-1)(h-1)+kh(m-1)
方差: MST=MS(A)+MS(B) +MS(AB)+MSE
检验量=系统误差/随机误差
即: F(A)=MS(A)/MSE F(B)=MS(B)/MSE
F(AB)=MS(AB)/MSE
H0(B): 因素B的h个水平的均值相等 H1:不全相等
H0(AB): AB之间不存在交互影响的作用
H1:有交互影响
检
验
规
则
例:
C:%5CDOCUME~1%5Cliu%5CLOCALS~1%5C%E6%A1%8C%E9%9D%A2%5C%E6%9C%AC%E7%A7%91%E6%95%99%E5%AD%A6%5C%E5%8F%AF%E9%87%8D%E5%A4%8D%E5%8F%8C%E5%9B%A0%E7%B4%A0%E5%88%86%E6%9E%
因为:F(A)=> F(B)=<
F(AB)=>
或 P(A)() < () P(A)() > ()
P(AB)() < ()
所以认为不同的机器设备对日产量有显著影响。不同
的工艺方法对日产量没有显著影响。不同机器设备与
工艺搭配的交互作用对日产量有显著的影响。