计量单位误差理论培训资料
一、法定计量单位
1 法定计量单位的构成
计量法规定:“国家采用国际单位制。国际单位制计量单位和国家选定的其他计量
单位,为国家法定计量单位。”国际单位制是我国法定计量单位的主体。国际单位制如有
变化,我国法定计量单位也将随之变化。
1.1 国际单位制(S1)
1960 年第 11 届国际计量大会将新的单位制命名为“国际单位制”,并用国际符
号 SI”表示。国际单位制的构成:
SI 基本单位
SI 单位
国际单位制(SI) SI 导出单位(两个辅助单位+专门名称导出单位
+组合形式的导出单位)
SI 单位的倍数单位
1.1.1 国际单位制的基本单位(SI 基本单位):
长度\米\m\(量的名称\单位中文名称\单位符号);质量\千克(公斤)\kg;时间\秒\s;
电流\安[培]\A;热力学温度\开[尔文]\ K ; 物质的量\ 摩[尔]\ mol;发光强度\坎[德拉]\cd
等七个基本量。
SI 基本单位量值能以高准确度复现出来,是 SI 单位的基础。
1.1.2 SI 导出单位: 包括 SI 辅助单位在内的具有专门名称的导出单位一共有 21 个:
SI 辅助单位 2 个:[平面]角(弧度,rad)、立体角(球面度 sr)
具有专门名称的导出单位:频率(赫[兹]Hz)、力(牛[顿]N)、 压力,压强,应力(帕[斯
卡]Pa)、能[量],功,热量(焦[耳]J)、 功率,辐[射能]通量(瓦[特]W)、电荷[量] (库
[仑]C)、电压,电动势,电位,(电势) (伏[特]V) 电容(法[拉]F)、 电阻(欧[姆]Ω)、电导
(西[门子]S)、 磁通[量] (韦[伯]Wb)、 磁通[量]密度,磁感应强度(特[斯拉]T)、 电感(亨
[利]H)、摄氏温度(摄氏度℃)、光通量(流[明]lm)、[光]照度(勒[克斯 lx])16 个。
加上由于人类健康安全防护上的需要而确定的具有专门名称的 SI 导出单位 3 个。
1.1.3 SI 单位的倍数单位
SI 中规定了 20 个构成十进倍数和分数单位的词头和所表示的因数。这些词头不能
单独使用,也不能重叠使用,它们仅用于与 SI 单位(kg 除外)构成 SI 单位的十进倍数单
位和十进分数单位。
SI 单位加上 SI 词头后两者结合为一整体,就不再称为 SI 单位,而称为 SI 单位的
倍数单位,或者叫 SI 单位的十进倍数或分数单位。常用的词头有:
109 吉 G ; 106 兆 M ; 103 千 k ; 102 百 h ; 101 十 da; 10—1 分 d;
10—2 厘 C;10—3 毫 m ; 10—6 微 μ; 10—9 纳 n
1.2 国家选定的其他计量单位共 16 个
我国选定了若干非 SI 单位与 SI 单位一起,作为国家的法定计量单位,它们具有同
等的地位:
时间: 分 min 小时 h 天(日) d ;
平面角 [角]秒(”) [角]分(’)度(°) ;
旋转速度 转每分 r/min
长度 海里 nmile
速度 节 kn
质量 吨 原子质量单位 t U
体积 升 L, (l)
能 电子伏 eV
级差 分贝 dB
线密度 特[克斯] tex
面积 公顷 hm2
我国没有选用的暂时保留与 SI 并用的单位 9 个:埃、公亩、 靶恩、巴、伽、 居
里、伦琴、拉德、雷姆。
1.3 上述单位的倍数单位
2 法定计量单位的使用规则
2.1 法定计量单位名称
(1)计量单位的名称,一般是指它的中文名称,用于叙述性文字和口述中,不得用
于公式、数据表、图、刻度盘等处。
(2)组合单位的名称与其符号表示的顺序一致,遇到除号时,读为“每”字,例如: J
/(mol·K)的名称应为“焦耳每摩尔开尔文”。书写时亦应如此,不能加任何图形和符号,
不要与单位的中文符号相混。
(3)乘方形式的单位名称举例:m4 的名称应为“四次方米”而不是“米四次方”。用长
度单位米的二次方或三次方表示面积或体积时,其单位名称应为“平方米”或“立方米”,
否则仍应为“二次方米”或“三次方米”。 ℃-1”的名称为“每摄氏度”,而不是“负一次方摄
氏度”。 s—1 的名称应为“每秒”。
2.2 法定计量单位符号
(1)计量单位的符号分为单位符号(即国际通用符号)和单位的中文符号(即单位名称
的简称),后者便于在知识水平不高的场合下使用,一般推荐使用单位符号。十进制单
位符号应置于数据之后。单位符号按其名称或简称读,不得按字母读音。
(2)单位符号一般用正体小写字母书写,但是以人名命名的单位符号,第一个字母
必须正体大写。“升”的符号“l”,可以用大写字母“L”。单位符号后,不得附加任何标记,
也没有复数形式。
组合单位符合书写方式:
℃分子为 1 的组合单位的符号,一般不用分子式,而用负数幂的形式。
℃单位符号中,用斜线表示相除时,分子,分母的符号与斜线处于同一行内。
分母中包含两个以上单位符号时,整个分母应加圆括号,斜线不得多于 1 条。
℃单位符号与中文符号不得混合使用。但是非物理量单位(如台、件、人等),可
用汉字与符号构成组合形式单位;摄氏度的符号℃可作为中文符号使用.
例如:下列写法正确
牛顿米 N·m Nm 牛·米
米每秒 m/s ms-1 米·秒-1, 米/秒
瓦每开尔文 W/(K·m) , 瓦/(开·米)
每米 m-1 米-1
电阻率 Ω·m 欧姆·米 欧姆·平方毫米/米
下列写法错误:
N-m mN 牛米 牛-米
ms* 米秒* 秒米
W/K/m W /(开·米) W/K·m
1/ m 1/米
2.3 词头使用方法
s
m
(1)词头的名称紧接单位的名称,作为一个整体,其间不得插入其他词。例如:
面积单位 km2 的名称和含义是“平方千米”,而不是“千平方米”。
(2)仅通过相乘构成的组合单位在加词头时,词头应加在第一个单位之前。例如:
力矩单位 kN·m,不宜写成 N·km。
(3)摄氏度和非十进制法定计量单位,不得用 SI 词头构成倍数和分数单位。它
们参与构成组合单位时,不应放在最前面。例如:光量单位 lm·h,不应写为 h.1m。
(4)组合单位的符号中,某单位符号同时又是词头符号,则应尽量将它置于单位
符号的右侧。例如:力矩单位 Nm,不宜写成 mN。温度单位 K 和时间单位 s 和 h,一
般也在右侧。
(5)词头 h,da,d,c(即百、十、分、厘)一般只用于某些长度、面积、体积和早
已习用的场合,例如 cm、dB 等。
(6)一般不在组合单位的分子分母中同时使用词头。例如:电场强度单位可用 MV
/m,不宜用 kV/mm。词头加在分子的第一个单位符号前,同一单位中一般不使用两
个以上的词头,但分母中长度、面积和体积单位可以有词头,kg 也作为例外。
(7)选用词头时,一般应使量的数值处于 0.1~1000 范围内。例如:1401Pa 可
写成 1.401kPa。
(8)万(104)和亿(108)可放在单位符号之前作为数值使用,但不是词头。十、百、
千、十万、百万、千万、十亿、百亿、千亿等中文词,不得放在单位符号前作数值用。
(9)计算时,为了方便,建议所有量均用 SI 单位表示,词头用 10 的幂代替。这
样,所得结果的单位仍为 SI 单位。
3 化学检测常用单位
物质的量浓度
a. 定义:单位体积中所含溶质 B 的物质的量.
b. 物质的量浓度符号:cB ,在使用物质的量浓度时也必须指明 B 的基本单元。
c. 物质的量浓度单位:实验室中常用的单位是“mol/L”。
例 1:c(NaOH)= 氢氧化钠溶液,小括号内的 NaOH 是指溶液中溶质的基
本单元,c(NaOH)是表示基本单元为 NaOH 的物质的量浓度。等号右边的 表
示物质的量浓度数数值为 摩尔每升,即每升含氢氧化钠 1×氢氧化钠分子量
× 克。
例 2:c(1/2H2SO4)= 硫酸溶液,表示基本单元为 1/2H2SO4 的物质的量
浓度为 摩尔每升。即每升含硫酸 1/2×硫酸分子量× 克。
例 3: c(1/5KMnO4)= 高锰酸钾溶液,表示基本单元为 1/5KMnO4 的物
质的量浓度为 摩尔每升.即每升含高锰酸钾 1/5×高锰酸钾分子量× 克。
例 4:c(HCl)=4mol/L 盐酸溶液
质量浓度
a. 质量浓度定义:作为溶质的物质的质量除以混合物(即溶液)体积。
b. 质量浓度符号:ρB ,B 代表作为溶质的物质。
c. 质量浓度单位: 实验室常用"g/L","mg/L"、"mg/mL","μg/mL"等。以 g·L-1,mg·L-1
更方便。
例 5:ρ(Na2CO3)=·L-1 碳酸钠标准滴定溶液,表示碳酸钠标准滴定溶液的质
量浓度为 克每升。
例 6:ρA/B 表示法: A 代表被测物质;B 代表滴定溶液中有效物质分子式。
ρ(Cl-/AgNO3)=·硝酸银标准滴定溶液表示 1mL 硝酸银标准滴定溶液相当
于 的氯离子。
例 7:ρ(Zn)=2mg·L-1,在一般情况下,只写整数及小数点后的非零数字.这种表示法不
考虑有效数字的规定。
例 8: 40g·L-1 NaOH 溶液
若介质的溶质为固体时,则用 ρB 表示介质的质量浓度,不带量符号。如。不用
4g/100mL.表示,单位的分母不带系数
质量分数 ωB
a. 质量分数定义: 溶液中溶质 B 的质量与溶液的质量之比。
b. 质量分数的符号是 ωB
c. 质量分数单位: 它是无量纲量,可以用"%"符号表示它的单位。
例 9:ω(HCl)=10%
例 10:ω(Pb)=%
例 11:ω(Pb)/( mg·kg-1)=
体积分数 φB
a. 定义:溶液中溶质体积与溶液体积之比.
b. 体积分数的符号是 φB
c. 是无量纲量,可用"%"符号表示其单位
例 12:φ(C2H5OH)=75%乙醇
每 100mL 中含 75mL 乙醇的溶液表示为:
3 .5 V1+V2 形式表示浓度
这种表示方法是表示两种或两种以上溶液或液体相混成为另一溶液的浓度表
示法,被混合者均以体积表示.
例 13: HCl(1+2)
参考文献: GB 3100-3102—93《量和单位》
二、数据处理和测量误差
1 数据处理
1.1 有效数字
1.1.1 (末)的概念
所谓(末),指的是任何一个数如 19.8mm,最末一位数字所对应的单位量值。
1.1.2 有效数字的概念
1.1.2.1 有效数字的概念:当该近似数的绝对误差小于 0.5(末)时,从左边的第一个
非零数字算起,直到最末一位数字为止的所有数字。有效数字的位数称为有效位数。
π=3.14159……截取到百分位,可得到近似数 3.14,绝对误差的模 ,
3.14 的(末)为 0.1, 0.5(末)=0.5×0.01=0.005,小于 。近似数 3.14 是
3 位有效数字。
1.1.2.2 如何确定有效位数
--------------2 位
0.0320-----3 位
10.00------4 位
12.450-----5 位
35000-----5 位
350×102 -------3 位
35×103 -------2 位
1.1.3 记录数值有效位数选择
保留最后一位是可疑数字。就是以最小分度值为准,再加一位。
1.1.4 检验结果的有效位数确定
-1997 “试验结果应与技术要求的量值的有效位数一致”。
1.1.5 计算过程中有效位数确定
A.加、减运算
当几个数参与加、减运算,以各数中(末)最大的数为准,其余的数均比它多保留一
位,多余位数应舍去。计算结果的(末),应与参与运算的数中(末)最大的那个数相同。
若计算结果尚需参与下一步运算,则可多保留一位。
例如:18.3Ω+1.4546Ω+0.876Ω→
18.3Ω 十 1.45Ω+0.88Ω=20.63≈20.6Ω
计算结果为 20.6Ω。若尚需参与下一步运算,则取 20.63Ω。
B.乘、除(或乘方、开方)运算
在进行数的乘除运算时,以有效数字位数最少的那个数为准,其余的数的有效数
字均比它多保留一位。运算结果(积或商)的有效数字位数,应与参与运算的数中有效数
字位数最少的那个数相同。若计算结果尚需参与下一步运算,则有效数字可多取一位。
例如:1.1 ×0.3268 ×0.10300 →
1.1 ×0.327 ×0.103 =0.0370 ≈ 0.037
计算结果为 0.037m3。若需参与下一步运算,则取 0.0370 。
C.常数:无限有效。
1.2 数据修约(GB8170)
1.2.1 数据修约的基本概念
对某一拟修约数,根据保留数位的要求,将其多余位数的数字进行取舍,按照一定
的规则,选取一个其值为修约间隔整数倍的数(称为修约数)来代替拟修约数,这一过程
称为数据修约,也称为数的化整或数的凑整。为了简化计算,准确表达测量结果,必须
对有关数据进行修约。
修约间隔又称为修约区间或化整间隔,它是确定修约保留位数的一种方式。修约
间隔一般以 k×10n(k=1,2,5;,n 为正、负整数)的形式表示。人们经常将同一 k 值的
修约间隔,简称为“k”间隔。
修约间隔一经确定,修约数只能是修约间隔的整数倍。例如:指定修约间隔为
,修约数应在 0.1 的整数倍的数中选取;若修约间隔为 2×10n,修约数的末位只能
是 0,2,4,6,8 等数字;若修约间隔为 5×10n 则修约数的末位数字必然不是“0”,就是
“5”。
当对某一拟修约数进行修约时,需确定修约数位,其表达形式有以下几种:
℃指明具体的修约间隔;
℃将拟修约数修约至某数位的 0.1 或 0.2 或 0.5 个单位;
℃指明按“k”间隔将拟修约数修约为几位有效数字,或者修约至某数位,有时
“1” 间隔可不必指明,但“2”间隔或“5”间隔必须指明。
1.2.2 数据修约规则
我国的国家标准 GB8170—87《数值修约规则》,对“1”、“2”、“5”间隔的修约方法分
别作了规定,但使用时比较繁琐,对“2”和“5”间隔的修约还需进行计算。下面介绍一种
适用于所有修约间隔的修约方法,只需直观判断,简便易行:
℃如果为修约间隔整数倍的一系列数中,只有一个数最接近拟修约数,则该数就是
修约数。
例 1:将 1.150001 按 0.1 修约间隔进行修约。
1.1 为修约间隔 0.1 的 11 倍
1.2 为修约间隔 0.1 的 12 倍),
1.2 最接近拟修约数,因此 1.2 就是修约数。
例 2: 将 1.015 修约至十分位的 0.2 个单位。
1.00 为 0.02 的 50 倍
1.02 为 0.02 的 51 倍
1.02 最接近拟修约数,因此 1.02 就是修约数。
例 3:将 1.2505 按“5”间隔修约至十分位。
1.0
1.5 只有 1.5 最接近拟修约数 1.2505
℃如果为修约间隔整数倍的一系列数中,有连续的两个数同等地接近拟修约数,则
这两个数中,只有为修约间隔偶数倍的那个数才是修约数。
例 4: 将 1150 按 100 修约间隔修约。
1.1×103
1.2×103
同等地接近 1150,因为 1.1×103 是修约间隔 100 的奇数倍(11 倍),只有 1.2×103
是修约间隔 100 的偶数倍(12 倍),因而 1.2×103 是修约数。
例 5:将 1.500 按 0.2 修约间隔修约。
1.4
1.6
同等地接近拟修约数 1.500,因为 1.4 是修约间隔 0.2 的奇数倍(7 倍),所以不
是修约数,而只有 1.6 是修约间隔 0.2 的偶数倍(8 倍),因而才是修约数。
例 6:将 1.025 按“5”间隔修约到 3 位有效数字,
1.00
1.05
1.05 是修约间隔 0.05 的奇数倍(21 倍),而 1.00 是修约间隔 0.05 的偶数倍 (20
倍)。
℃在进行修 约时还应注意:不要多次连续修约(例如:12.251→12.25→12.2),
因为多次连续修约会产 生累积不确定度。
℃在有些特别规定的情况(如考虑安全需要等)下,最好只按一个方向(如只进)修约。
1.3 极限数值的表示方法和判定方法(GB1250-89)
产品标准编写时对规定的指标、参数要规定极限数值。
检测结果如何按标准规定的指标、参数要规定极限数值判定。
在判定检测数据是否符合标准要求时,应将检验所得的测定值与标准规定的极限数
值作比较,比较的方法有两种:修约值比较法;全数值比较法。比较时应根据产品标准
的规定,选择相应的比较方法,标准中各项极限数值时如不加说明时,均指采用全数值
比较法。但应考虑标准的实施时间。
全数值比较法:全数值比较法是将检验所得的测定值不经修约处理(或经修约处理,
但应表明它是经舍、进或未进未舍而得)而用数值的全部数字与标准规定的极限数值作
比较,只要越出规定的极限值(不论超出多少)都判定为不符合标准要求。
如果报告值是对计算结果进行了修约,而且修约值刚好是判断标准值,那么修约后
的数字应在后面以-,+表示在修约过程己进行了进舍。没有进舍的则不用表示。例如:
计算结果为 ,卫生标准为小于或等于 ,则报告值要修约成两位有效数字,应表
示成:(+)。
修约数值比较法:修约值比较法是指将测定值或 其计算值进行修约,修约位数与标
准的极限位数一致。将修约后的数值与标准规定的极限值进行比较,以判定是否符合要
求。
2 测量误差
2.1 测量误差和相对误差
2.1.1 测量误差
测量结果减去被测量的真值所得的差,称为测量误差,简称误差。测量误差有时
称为测量的绝对误差。 误差的绝对值为误差的模。
误差=测量结果-真值=随机误差十系统误差
不要把误差与不确定度混为一谈。测量不确定度表明赋予被测量之值的分散性,
它与人们对被测量的认识程度有关,是通过分析和评定得到的一个区间。
2.1.2 相对误差
测量误差除以被测量的真值所得的商,称为相对误差。
2.2 随机误差和系统误差
2.2.1 随机误差
2.2.1.1 定义
测量结果与在重复性条件下,对同一被测量进行无限多次测量所得结果的平均值之
差,称为随机误差。
重复性条件是指在尽量相同的条件下,包括测量程序、人员、仪器、环境等,以及
尽量短的时间间隔内完成重复测量任务。
2.2.1.2 原因
随机误差产生的原因:不易觉察偶然因素造成。
2.2.1.3 特点
误差的绝对值时大时小,时正时负,不可预定,有正态分布统计规律性;
绝对值相等而符号相反的误差,出现的次数大致相等(对称性);
绝对值小的误差比绝对值大的误差数目多(单峰性);
不会出现绝对值很大的误差(有界性)。
2.2.1.4 精密度与偏差
精密度:重复测量所得数值之间相互接近的程度,表示一组测量值对其中心值的离
散程序,反映随机误差的大小。
精密度有重复性、再现性之分。
重复性;同一方法、同实验室、同操作者、同设备,对同一材料,在尽量短的时间
间隔内完成重复。
再现性:同一方法,在不同的实验室、不同操作者、不同设备,不同或相同时间对
同一材料测量结果的一致程度。
精密度用绝对偏差、平均绝对偏差、相对偏差、平均相对偏差、标准偏差表示。
绝对偏差=测量值-两量平均值(平行测定)
平均绝对偏差=一组的各个测量值与组平均值之差的绝对值之和的平均
相对偏差=(绝对偏差/平均值)100%
平均相对偏差=(平均绝对偏差/平均值)100%
标准偏差 S= 2
2.2.2 系统误差
2.2.2.1 定义
在重复性条件下,对同一被测量进行无限多次测量所得结果的平均值与被测量的真
值之差,称为系统误差。
2.2.2.2 来源:
方法误差是最需要关注的。
仪器设备、器具误差。测量仪器须经常地用计量标准或标准物质进行调整或校
准;但是同时须考虑的是:这些标准自身仍带着不确定度。
环境误差。符合规定或不符合规定均会产生误差。
人员误差。操作上的习惯、偏向或不正规产生。
材料、试剂误差
2.2.2.3 按特点分:
恒差(多次测定保持不变,与样品重量无关,对相对误差的影响是含量高,相对误
差减少)。
比例误差(误差的绝对值随样品重量增加,成比例增加,相对误差不变)
服从函数规律的误差。
2.2.2.4 准确度与误差
准确度;多次测量值的平均值与真值的接近程度。用绝对误差或相对误差描述。准
确度反映了系统误差和随机误差的综合效应。
绝对误差=测量值-真值
)(
1
1
1
x
n
n
ix
=(测量结果—总体均值)+(总体均值-真值)
=随机误差十系统误差
相对误差=(绝对误差/真值)100%,相对误差反映测量的准确度。
一般说真值是未知的,因此误差也是未知的。但是在某些情况下从相对意义而言,
真值是可知的,理论真值,约定真值,相对真值(有证标准物质证书给出值、高一级的
标准器给出的值)。
误差的大小与准确度相关。
2.3 过失误差
2.3.1 检验员粗心大意的误差:测错、记错、读错、算错、样错、操作错。
2.3.2 检验员明知故犯的误差:测错、记错、读错、算错、样错、操作错。
2.4 测量不确定度
测量不确定度表明赋予被测量之值的分散性,它与人们对被测量的认识程度有关,
是通过分析和评定得到的一个区间。
一个测量结果,由于存在误差,只有表达其量值,还有其不确定度,才是完整的。
测量数据分布的标准偏差是测量不确定度的主成分,称为标准不确定度,测量过程中还
有其他不确定度的来源,要合成不确定度,考虑到测量次数的有限性,合成不确定度乘
以置信因子得扩展不确定度。
3.修正值和偏差
3.1 修正值
用代数方法与未修正测量结果相加,以补偿其系统误差的值,称为修正值。
对测量结果加减,补偿其系统误差的值。
用高一个等级的计量标准来校准或检定测量仪器,其主要内容之一就是要获得准确
的修正值。
修正因子:对测量结果补偿其系统误差的相乘数字因子。
3.2 偏差
一个值减去其参考值(设定、应有、或标称值),称为偏差。
4 误差的消除方法
4.1 粗差的消除:教育检验员、管理人员,加强改进管理,留样核查处理。
4.2 系统误差消除
4.2.1 仪器、量具的校准、测量前校正
4.2.2 试剂、材料、纯水的质量控制,采用有证标准物质。
4.2.3 方法的误差控制:选择重复性、检出限、干扰试验、对照试验、空白试验、回
收试验、方法比对评价试验考核方法的误差大小可以接受的方法。
4.2.4 人员实际操作培训。
4.2.5 使用下列方法对检测数据系统误差检查
使用标准物质或 QC 样品检查;
不同实验室比对;
不同方法、不同人员、不同设备比对。
可以使用统计技术如 t 检验判定有无系统误差。
4.3 偶然误差的控制
4.3.1 检验人员精心操作。
4.3.2 平行或多次测定取平均值减少偶然误差。为了评价一个方法测量 10~20 次,标
准溶液的标定 3~4 次,一般检测 2~3 次,均值的偶然误差随次数的增加而减少。
4.3.3 通过统计技术 x2 检验、F 检验对同人或不同人员、不同方法、不同仪器对 QC
样品检测结果的精密度或是否有显著差异。
5 检验异常数据的判断和处理(GB4883-85)
5.1 前提:系统误差已得到消除或纠正。数据的误差由偶然误差引起,服从正态分布。
5.2 异常值的判断和取舍:
5.2.1 对有明显、充分原因与其他检测数据相差基远的数据剔除。
5.2.2 对不明显、无充分根据的按处理可疑值规则决定取舍。
极端值也称逸出值、离群观测值或可疑值,在一组测量数据中出现某一数值与其他
值相差较大,能否在计算平均值和标准差前把它舍弃,目前提出许多标准,即极端值与
其他测量值之差必须多大,才应舍弃。如果差值规定的太小,正确测量值有被舍弃的可
能(在统计学中叫做发生了第一类误差),如果把差值规定太大,错误的测量值被保留的
可能性就大(在统计学中叫做发生了第二类误差),目前常用的有以下几种检验方法。
(1)Grubbs 检验法(T 值检验法)
此法以极端值与平均值(包括极端值)之差,除以包括极端值的标准差,所得之商
称为 T 值。 (有的称 G 值)
最大值可疑时检验统计量 T=
最小值可疑时检验统计量 T=
s
xxn
s
xix
根据自由度(一组独立偏差的数目)和显著水平 α(1-P 置信概率)查阅 Grubbs 检验临界
值表,如 T 的统计值大于表列 T(n-1, )值,则该极端值应予弃去。
(2)Dixon 检验法(Q 值检验法)
检验统计量 Q 根据测量数据的个数 n 的不同,计算公式也界。此法首先将一组数据
按大小顺序排列,,然后将可疑值与其相邻值之差作分子,全距(极差)作分母,计算 Q 值,
本法的优点是不须计算标准差。
最大值可疑时:Q=
最小值可疑时:Q =
这里的 Q 值叫 Q 舍弃商,它随自由度与显著水平而不同,按上式计算的 Q 值大于
表列 Q(n-1,o.o5) 值则该极端值应予舍弃.如计算的 Q 值小于表列 Q(n-1,o.o5),则此极端
值不应弃去。
Dixon 检验临界值表可以在有关标准中查到。
(3)标准差法
较粗略的办法,在手头上无工具表的情况下使用。
计算公式为 或
此数大于 3 时舍去;小于 3 可以保留。
式中:S 一标准差(不包括极端值);
--极端值;
—不包括极端值的均值。
例:用原子吸收法测定试样中的镉含量,五次测定结果是:0.041,0.046,
0.048,0.038,0.045mg/L,试判断 0.038mg/L 是否应舍弃?
采用上述三种方法进行检验:
按 Grubbs 检验法(T 值检验法)求得 T 值=,查 T(4,0。05)= 数据 0.038 不能舍
去。
按 Dixon 检验法(Q 值检验法)求得 Q= 查 Q (4,0。05)= ,数据 0.038 不能舍去。
按标准差法计算,结果为 ,数据 0.038 不能舍去。
(4)几点注意事项
in
nn
xx
xx
1
1
12
xx
xx
n
s
xxn
s
xix
xn
x
℃上述几种方法曾对混有另一种总体数值的各种情况,进行了一万次以上的模拟试
验结果证明 Grubbs 法检出率最高,效果最好.故若同一资料用两种方法检验结果不符
合时,一般以 Grubbs 法为准,若资料太多,n 值极大时,可采用 Dixon 法,以减少计算
工作量。
℃舍弃一个数值时,应三思而后行.因为即使经过计算符合舍弃标准时,舍的可疑
值属于固有误差的可能性虽说很小,但毕竟不等于零。且大多数舍弃办法是以正态分布
为基础的,若资料不属正态分布,舍弃更应慎重。
℃标准差法和 Grubbs 法检验,均以标准差倍数作为标准来判断的,5 次以内的检
验尤应慎重,即使有粗差也不易检出。
℃即使所舍弃的数值确属异常值,也应迫查其出现的原因,并在报告中记明舍弃的
具体数值及舍弃的依据。
℃若既无舍弃可疑值的充分理由,又不符合统计学舍弃标准,就不应该舍弃.应加
大样本,重复实验继续研究。若其属于固有误差范围,就可能出现均差与可疑值相近而
符号相反的数值,即可排除疑点,加强结论的可靠性。
5.3 常用统计数值的计算
5.3.1.1 求平均水平
平均数:
中位数:数值从小到大排列,取中位 (第 个)或中间两个( 、 +1)数值的平
均作为中位数。
5.3.2 求检测值的离散程度(精密度):
极差 R= 数值中的最大值-最小值
平均偏差 =
方差 V=
标准偏差 S= 2
变异系数 cv= ×100%
n
x
n 1
1
2
n
2
n
2
n
d
n
1
n
1
xxi
1
)(
1
n
xxi
n
)(
1
1
1
x
n
n
ix
x
s
极差、平均偏差、方差、标准偏差、变异系数。这些都是反映了测量的随机误差,
是方法的关键指标之一。与方法的准确度结合评价方法的优劣。因为结果不接近真值(不
准确)及测量的一组数据过于分散都 是不可接受的。