统计分析方法介绍
二零零四年元月
主要内容
一,区间估计
二,假设检验
三,ANOVA
四,回归分析(比较相关分析 )
区间估计的主要内容
区间估计的基本步骤
置信水平
总体平均值的区间估计
(点估计)
区间估计
1, 基本步骤
确定一个与检验参数相关的统计量及其分布
确定置信水平 1-a
置信水平(置信度):样本统计量反映总体特性的水平,
显著性水平,记为 a
根据统计量的分布和置信水平确定置信区间
区间估计
2, 置信水平
例:以下是对总体平均值进行区间估计时,样本平均值的分布
结果解释:
(a,b)总体平均值置信水平为95%的置信区间
区间估计
3, 总体平均值的区间估计
与总体平均值相关的统计量
样本平均值
样本平均值的分布
总体特性分布 X~N(μ,σ2)
样本平均值的分布 (n : sample size)
Sigma 已知 X~N(μ,σ2/n) → Z=n1/2(X- μ)/ σ~N(0,1)
Sigma 未知 X~N(μ,σ2/n) → t= n1/2(X- μ)/ s~t(n-1)
总体平均值的置信区间
Sigma 已知 Za<Z<Z1-a → X+Za σ n-1/2 < μ < X+Z1-a σ n-1/2
Sigma 未知 ta<t<t1-a → X+ta s n-1/2 < μ < X+t1-a s n-1/2
Za, Z1-a 为标准正态分布 a, 1-a 分位点
ta, t1-a 为t(n-1)分布 a, 1-a 分位点
现在的问题是 μ是多少,在什么范围?
区间估计
3, 总体平均值的区间估计
标准正态分布和 t 分布比较
区间估计
3, 总体平均值的区间估计
自由度(degree of freedom)
在计算sigma=[∑ (Xi-X)2/(n-1)]1/2时
(X1-X)+ (X2-X)+…+ (Xn-X)=0
所以(X1-X), (X2-X), … , (Xn-X)中只有n-1个独立的数据
样本数量越大,自由度越高,估计越准确
区间估计
假设检验的主要内容
基本步骤
两类风险
平均值的假设检验
标准差的假设检验
正态分布的假设检验
合格率的假设检验
离散性数据相关性检验
势 (power), 样本大小,差异计算
假设检验
1, 一般步骤
确定原假设和对立假设
H0: 原假设(零假设)
H1: 对立假设
确定一个与检验参数相关的统计量及其分布
根据统计量的分布和风险水平确定临界值和拒绝域
计算结果并判断
P<时,拒绝原假设H0 ,对立假设H1成立
P value: 根据实际观测到的结果,当H0成立时,拒绝H0的概率。
例:1, H0: u1=u2←→ H1:u1≠ u2
2,H0: u1>u2←→ H1:u1 ≤ u2
3, H0: u1<u2←→ H1:u1 ≥ u2
与区间估计一致
假设检验
2,两类风险
第一类风险(生产方风险) α
当H0成立时,拒绝H0的概率
第二类风险(使用方风险)β
当H0不成立时,接受H0的概率
势 (power)
第一类风险与置信水平
假设检验
3,平均值的假设检验
1, 检验总体平均值是否等于指定值u0
2, 原假设和对立假设: H0 U=u0 H1 U<>u0
3, 检验统计量及其分布: t=n1/2(X-u0)/s
4, 临界值和拒绝域: { t: t > t1-a or t < ta}
5, P 值: P=P(T>t’ or T<-t’)
假设检验
3,平均值的假设检验
假设检验
3, 平均值的假设检验
假设检验
3, 平均值的假设检验
假设检验
3, 平均值的假设检验
假设检验
3, 平均值的假设检验
MINNTAB中假设检验路径及数据格式
假设检验
3, 平均值的假设检验
假设检验
1-sample Z-test
1-sample t-test
Select data source
Input tested means
Input known sigma
Select data source
Input tested means
3, 平均值的假设检验
Two-sample T-test
假设检验
1, data in one column
2, data in two columns
3, 平均值的假设检验
Paired T-test
假设检验
3, 平均值的假设检验
Option in hypothesis
假设检验
Graph in hypothesis
Alternative hypothesis(H1)
4, 标准差的假设检验
1, 检验两组数据的标准差是否相等
2, 原假设和对立假设: H0 σ1=σ2 H1 σ1<>σ2
3, 标准:P> 时, 两组数据的标准差相等
4, Path in MINITAB:
StatBasic statisticsVariances
假设检验
5,正态分布的假设检验
定义:检验一组数据是否服从正态分布
假设:H0: 正态分布H1: 非正态分布
标准:P< 时, 数据为非正态分布
正态概率图
计算平均值,标准差
将数据从小到大排序,计算各数据对应的累积分布概率
描点(注意纵轴的刻度)
Path in MINITAB:
StatBasic statisticsNormality test
假设检验
5, 正态分布的假设检验
正态分布下的直方图和正态概率图
假设检验
5, 正态分布的假设检验
非正态分布下的直方图和正态概率图
假设检验
5, 正态分布的假设检验
在数据不服从正态分布时,采用Box-Cox变换改变数据的分布形状
Box-Cox变换 YYλ
(Path: Statcontrol chartsBox-Cox transformation…)
假设检验
6,合格率的假设检验
类型
一批产品合格率是否小于P%
二批产品合格率是否相等
例
1,从生产产品中抽出2000进行检查,52不合格,合格率是否小于98%?
2,从一条生产线抽出1500产品检查,17不合格;从另一条生产线抽出1300产品检查,25不合格;它们的合格率是否一样?
假设检验
6,合格率的假设检验
Proportion test in MINITAB
Proportion test for one group
Proportion comparison between two groups
假设检验
6,合格率的假设检验
例 1 (Proportion test for one group)
输入检查结果
输入检验对比合格率
选择假设类型
假设检验
6,合格率的假设检验
Test and CI for One Proportion
Test of p = vs p <
Exact
Sample X N Sample p % Upper Bound P-Value
1 1948 2000
例 1 (Proportion test for one group)
P<, 判断结果合格率小于
假设检验
6,合格率的假设检验
例 2 (Proportion comparison between two groups)
假设检验
6,合格率的假设检验
例 2 (Proportion comparison between two groups)
Test and CI for Two Proportions
Sample X N Sample p
1 1483 1500
2 1275 1300
Estimate for p(1) - p(2):
95% CI for p(1) - p(2): (, )
Test for p(1) - p(2) = 0 (vs not = 0): Z = P-Value =
P>, 判断结果合格率相等。
假设检验
7,离散性数据相关性检验
例 ---缺陷严重度(数量)与加工速度关系
MINITAB: stattableschi-square test…
P<时,两个变量间有强的相关性。
7
15
26
慢
12
29
40
一般
8
14
30
快
严重
一般
轻微
缺陷
速度
假设检验
7,离散性数据相关性检验
Chi-Square Test: C1, C2, C3
Expected counts are printed below observed counts
C1 C2 C3 Total
1 30 14 8 52
2 40 29 12 81
3 26 15 7 48
Total 96 58 27 181
Chi-Sq = + + + + + +
+ + =
DF = 4, P-Value =
Chi-square Test 检验结果
P>, 缺陷严重度与速度没有相关关系。
假设检验
8, 势 (power), 样本大小,差异计算
假设检验
假设检验判别力---当检验对象与原假设不同时,检验方法进行正确判别的能力,又称功效(power) , 计算为 1-β 。
例:对两个不同的总体,其样本平均值的分布
N(μ,σ2/n)
N(μ’,σ2/n)
拒绝域
(α风险)
接受域
(β风险)
t
8, 势 (power), 样本大小,差异计算
与假设检验判别力(功效)相关的因素:
样本大小
可接受的差异
假设检验判别力, 样本大小, 检出差异相互关系及计算
三者中任何两个可确定另外一个
样本多,允许差异大时,判别力高
例
假设检验
8, 势 (power), 样本大小,差异计算
MINITAB 应用
计算对应检验的功效
假设检验
8, 势 (power), 样本大小,差异计算
MINITAB 应用(Two sample t-test)
1, 先确定标准差
2, sample size, power, difference,可以根据其中任意二个确定另外一个。
假设检验
8, 势 (power), 样本大小,差异计算
Power and Sample Size
2-Sample t Test
Testing mean 1 = mean 2 (versus not =)
Calculating power for mean 1 = mean 2 + difference
Alpha = Sigma = 1
Sample
Difference Size Power
30
MINITAB 应用(Power value in two sample t-test)
假设检验
8, 势 (power), 样本大小,差异计算
Power and Sample Size
2-Sample t Test
Testing mean 1 = mean 2 (versus not =)
Calculating power for mean 1 = mean 2 + difference
Alpha = Sigma = 1
Sample Target Actual
Difference Size Power Power
86
MINITAB 应用(Sample size in two sample t-test)
假设检验
8, 势 (power), 样本大小,差异计算
Power and Sample Size
2-Sample t Test
Testing mean 1 = mean 2 (versus not =)
Calculating power for mean 1 = mean 2 + difference
Alpha = Sigma = 1
Sample
Size Power Difference
30
MINITAB 应用(Difference in two sample t-test)
假设检验
ANOVA
1,实例---Swage ball size optimize evaluation
2,原理
3,ANOVA in MINITAB
ANOVA
1,实例---介绍
例---Swage ball size optimize evaluation
响应变量(Response): gramload
因子/水平(Factor/level):
1, swage ball size(79/80/81mil, 79/ 79/81/82mil, 79/)
2, Heads(HD2, HD3)
试验次数: 20*8=160
平衡设计
方差分析(two-way)
MINITAB: StatANOVA
ANOVA
1,实例---方差分析表
Two-way ANOVA: Gramload versus Head, Group
Analysis of Variance for Gramload
Source DF SS MS F P
Head 1
Group 3
Interaction 3
Error 152
Total 159
P<时,有显著性影响。
误差来源
ANOVA
1,实例--- 置信区间估计
Individual 95% CI
Head Mean ---+---------+---------+---------+--------
HD2 (-------*--------)
HD3 (-------*--------)
---+---------+---------+---------+--------
Individual 95% CI
Group Mean -----+---------+---------+---------+------
Group 1 (----*----)
Group 2 (----*----)
Group 3 (----*----)
Group 4 (----*----)
-----+---------+---------+---------+------
ANOVA
1,实例---平均值分布图
ANOVA
1,实例---平均值置信区间分布
ANOVA
1,实例---交互作用分布图
ANOVA
2,原理
方差分解
SST=SSA+SSB+SSAxB+SSE
与随机误差比较,确定因子的显著性
SSE
SSAxB
SSA
SSB
ANOVA
3, ANOVA in MINITAB
方差分析图形
数据格式
ANOVA
3, ANOVA in MINITAB
ANOVA
3, ANOVA in MINITAB
(One-way)
数据格式
ANOVA
3, ANOVA in MINITAB
(One-way---stacked)
数据格式
ANOVA
3, ANOVA in MINITAB
(Two-way)
数据格式
ANOVA
3, ANOVA in MINITAB
(Balanced ANOVA)
interaction
uncontrolled
ANOVA
3, ANOVA in MINITAB
(General Linear Model)
ANOVA
3, ANOVA in MINITAB
(Fully Nested ANOVA)
ANOVA
回归分析的主要内容
实例
最小二乘原理
显著性检验
预测值和预测区间
回归诊断
MINITAB应用
相关分析
回归分析
1, 实例 ( y=ax+b)
回归分析
2, 最小二乘原理
原理
Min[∑(Ei)2]=min[∑(Yi – Yi)2]
相关指数
R2=1-∑ (Ei)2/∑ ( Yi – Y )2
比较相关性系数
回归分析
^
3, 显著性检验
Regression Analysis: MSP versus Kaifa
The regression equation is
MSP = - + Kaifa
Predictor Coef SE Coef T P
Constant
Kaifa
S = R-Sq = % R-Sq(adj) = %
回归分析
常数是否为零
系数是否为零
3, 显著性检验
Analysis of Variance
Source DF SS MS F P
Regression 1
Residual Error 30
Total 31
Unusual Observations
Obs Kaifa MSP Fit SE Fit Residual St Resid
9
23
R denotes an observation with a large standardized residual
X denotes an observation whose X value gives it large influence.
回归分析
4, 预测值和预测区间
回归分析
5, 回归诊断
线性模型---Plot(residual, fit)
误差独立性--- Plot(residual, observed order)
误差正态性---Histogram, Normal plot
回归分析
5, 回归诊断
回归分析
6, MINITAB应用
回归分析
可以选择多个变量
6, MINITAB应用
残差分布图形
预测值及预测区间
回归分析
7, 相关分析
相关分析与回归分析差别
相关分析中的变量是随机变量,回归分析中的变量是非随机变量;
相关分析中的变量是相互联系的,回归分析中一个变量(自变量)由另一个变量(因变量)引起。
相关分析是分析两个变量的线性关系,回归分析呈以分析一个变量和多个变量的线性关系和非线性关系。
回归分析
7, 相关分析
相关分析与回归分析联系
相关系数(相关分析)与相关指数(一元回归分析)计算结果一样;
相关方程与回归方程的建立方法一样;
相关方程与回归方程的诊断方法一样;
回归分析