SJ/Z 3206.14-1989
标准分类号
中标分类号:综合>>标准化管理与一般规定>>A01技术管理
关联标准
相关单位信息
起草人:李师鹏、肖昭学、赵长春、黄文裕
起草单位:机械电子工业部电子标准化研究所;七七四厂;南京大学
提出单位:机械电子工业部第五十五研究所
发布部门:中华人民共和国电子工业部
标准简介
SJ/Z 3206.14-1989 光谱化学分析误差及实验数据处理方法通则 SJ/Z3206.14-1989 标准下载解压密码:www.bzxz.net
本标准适用于光谱化学分析中误差的分类和表示方法,以及实验教程的统计处理方法。用以检验测量数据的可靠性,从而对分析方法作出合理评价。
本标准也适用于光谱化学分析元素浓度及其他与元素浓度有关的测量数据的处理。
标准内容
中华人民共和国电子工业部指导性技术文件SJ/Z3206.14—89
光谱化学分析误差及实验数据处理方法通则本标准适用于光谱化学分析中误差的分类和表示方法,以及实验数据的统计处理方法。用以检验测运数据的可靠性,从而对分析方法作出合理评价。本标准也适用于光谱化学分析元素浓度及其他与元素浓度有关的测量数据的处理。1述语
1.1本通则中使用的术语见GB9259-88(发射光谱分析名词术语)。2误差及其分类
2.1误差(E)测量值(X)与真值(μ)之差。即
E=X-μ
2.2误差的分类
2.2.1系统误差全部或大部测量值对于真值在一个方向的偏离,它具有重复性和数值上的恒定性。可以找出其产生的原因而得以校正或消除。它决定测量结果的准确度。
2,2.2随机误差测量中由基些因素的偶然变化引起的测量误差。相对于真值而言,误差大小及正负方向都不定,从总体观察,小误差出现的几率多于大误差。它是较难避免的,但具有统计规律性(见5)。随机误差决定测量结果的精密度。2.2.3过失误差由于操作或计算错误引起的误差,因而是可以避免的。在估算总体误差时,不予考虑。
3偏差
绝对偏差(d)测量值(X,)与一系列测量值的平均值(x)之差。3.1
(3)
式中为算术平均值,n为测量次数。当无限增大,而又无系统误差时,又值向真值μ收敛。此时可把偏差当作误差处理。3.2标准偏差偏差平方和除测量次数的平方根。3.2.1当测量次数n无限多时(n>20),标准偏差用符号6表示。>
(X,-X)2/n
中华人民共和国电子工业部1989-02-10批准·(4)
1989-03-01实施
SJ/Z3208.14--89
3.2.2当在有限的测量次数(n<20)中,标准偏差用符号S表示,S=
(X;-X)2)(n-1)
式中(-1)=f,称为自由度。它说明在次测量中,只有#一1个可变的确差,实现此计算程序见附录C2.1。
单次测量的标准偏差与平均值之比的百分数。3.2.3相对标准偏差(RSD)
S×100
实现此计缝程序见附录C2.1。
3.2.4平均值的标准偏差(S元)单次测量的标准偏差除以测量次数的平方根。S
Sa=士Vn
(Xi-x)/n(n-1)
总标准偏差的计算当有K组(K>1)类似的盂复测量时,总标准偏差是将各3.2.5
独立标准偏差合并。
((n-1)S,+(n-1)s,*+.+(n-1)Sr)Se\V
(ni-1)+(nz-1)+...+(nt-1)3.3方差(S*)标准偏差的平方。s1
n-1i=1
(X-X))
实现此计算程序见附录C2.1。
(9)
·(10)
3.4极差(R)在相同条件下,n次测量数据中最高测量值(X)与最低测量值(X,)之差。
R值说明一系列测量值的伸展情况。实现此计算程序见附录C2.1。
4随机误差的概率分布
·(11)
4,1正态分布大景测最中随机误差遵守的分布规律,误差为零的测景值出现的频数最多。相对于平均值而言,误差大小相等符号相反的测量值出现的频数相同。随着误差的增大,频数按指数减小。
4.1.1误差的区间概率将误差以标准偏差为单位表示,并令1=分布规律,便可知误差山现在任何区间的概率。2
飞,根据正态
SJ/Z3206.14—--89
当u=±1时,×=μ±16的区间概率为68.3%,u=±2时,X=μ+26的区问概率为95.5%,u=±3时,×=μ±36的区间概率为99.7%。4.2T分布在有限次测量中,随机误差避守的分布规律。因为平均值与真值之问存在误差需要按新的变量(t)值计算随机误差的分布规律。t值的涵意为平均值的误差以平均值的标准偏差为单位表示的数值。()
μ=#±t.s/Vn
式中t与自由度及置信水平有关。Vn
(12)
(13)
4.3置信水平平均值(X)落在土t·s/Vn范围内的概率,以P%表示。在此范固外的概率则为α%。P与α的类系为P=1-α。通常在分析化学中使用P=95%的置信水平。
实现此计算方法程序见附录C3.1。4.4置信界限(CL)真值以指定的置信水平落在测量平沟值附近某个界限之内。例如(13)式中文士t·s/n即为真值(μ)的置信界限。所以置信界限的大小取决于测量精密度、测量次数和置信水平。实现此计算方法程序见附录C3.1。5数据评价
5.1离群值的检验用于判断由于误差道成的偏离较大的可疑值。经检验认定是明显的过失造成的结果,就应舍弃。可用下述检验方法确定舍弃。5.1.1Q检验法将测最数据按大小顺序排列,X.、X.、X..X.,其中X或X.为可疑的离群值。计算离群值与邻近值之差除以极差,所得的商即为Q检验值。Q=(X,-X)/(X-X,)..
Q.=(X-X-1)/(X-X,)
如果计算出的Q值大于表1所列Q值,应将该值作为离群值舍弃。表1Q值表
测定次数
(14)
(15)
,为0.90、0.95、0.99置信水。SJ/Z3206.14-89
实现此计算方法程序见附录C1。5.1.2G检验法将测最数据按大小顺序排列:X,Xa,Xa,.….X.,其中X,或X。为可凝的离群值,计算离群值与平均值之差,除以标准偏差,所得的商即为G检验值。
Gi=(X-X.)/SG.=(x-X)/S.
如果计算出的G值大于表2所列G值,应将离群值舍弃。表2G值表
测定次数
*0.95、0.99为置信水平。
(16)
5,2显著性检验利用统计的方法来检验被处理的问题是否存在统计上的显著性差异。
5.2.1t检验法来自同一总体的两组测量,它们的标准偏差应该是一致的(可用F检验判断),否则其平均值之闻的差异不仅归因于随机误差,必然还存在系统误差。t检验法主要用于判断平均值之闻的系统误差。5.2.1.1与标准样品比较将n次测量的平均值文与标准样品的名义值(视为真值μ)比较,以确定两者是否一致。用(12)式判断。若计算的t值大于表列t值(见附录A),则认为测量平均值与名义值之间存在显著性差异,即存在系统误差。5.2.1.2两平均值之间比较同一样品,由两个实验室或用两种不同方法,各进行了n,和n.次测量,得到相应的乎均值Xi和X,,标准偏差S,和S2,则总标准偏差应为:SJ/Z 3206.14-89
/(n1-1)St*+(n2-1)S2\/(ni+n,-2)S总=y
则t=|Xt-Xa/.Vgrna/(n,+n,)
(17)
若计算出的t值大于表列t值(见附录A),则认为在选定的置信水平下,两平均值之间存在显著性差异。
实现此计算方法程序见附录C4。5.2.2F检验法方差和标准偏差是反映测量精密度的重要指标。用比较两组数据的方差来比较其精密度是否存在显著性差异。设两组测量数据的方差各为S,、S,2,且令S,2>S。,则F检验的统计量为:F=S,/S,2
.......(18)
若计算所得F值大于表列F值(见附录B),则表明在选定的置信水平下,两组测量值精密度之间存在显著性差异。
实现此计算方法程序见附录C5。6方差分析法
方差分析法是将实验总方差,分解为各因素方差分量,使能将各因索的影响区分开来,然后用显著性检验法来判断各因素对测量数据影响的相对大小。方差分析法建立在方差的加和法则的基础上,总方差应为各因素方差之和。各因案以下列符号表示:L一实验室,【一实验室数,M一分析方法,m一方法数,S-试样,K-试样数A一分析者,g一分析人数,n一分析重复数。6,1单因数方差分析指只有一个确定的因素可能影响测量数据的试验。例如,将同一样品,分送至2个实验室分析,每个实验室分析重复n次。要求判断在1个实验室的平均值之间,有无显著性差异。
这里总偏差的平方和来自实验室间的偏差平方和及各实验室内的偏差平方和两个方面。
6.1.1计算步骤
6.1.1.1计算各个因素的测量值总和(TL)即各个实验室测量值总和。Tt-2X
式中.L=1,2,l,X为各单独测量值,i=1,2,nl。6.1.1.2计算全部测量值总和(G)所有因素的全部测量值相加,1
G=ZTL=ZXi
L=li=l
6.1.1.3计算校正因子(CF)测量值总和平方除以测量总数。CF=G/ln
6.1.1.4计算总平方和(Q总)
SJ/Z3206.14--89
全部测量值的平方和减去校正因子。Qe=Ex.-G*/1n=zX.-CF
6.1.1.5计算因素间的平方和(Q闻)校正因子。
Q间=—≥T,*-G+*/ln
计算因素内平方和(Q内)
Q内=Q总-Q间=X*
各实验室总和平方相加除以测量次数,再减去总平方和减去室间平方和。
计算因素间平均平方(ngL)各室间平方和和除以自由度。M6L.=
(1-ZTi-G*/ln
计算因素内平均乎方(6。)室内平方和除以自由度。6.
1(n-1)
建立方差分析表3,
平方和
自由度
(ZX'nET)
单因素方差分析表
平均平方
l(n-1)
)/(1-1)
1.2T)/(n-1)
Ihn)/(l~1)
实现此计算方法程序见附录C6.1。方差组成
6。a+n 62
SJ/Z3206.14—89
6.1.1.10计算F值,进行显著性捡验。室间方差组成与室内组成之比。F=(60*+n6,*)/60z
如果计算出的F值在选定的置信水平下大于表列F值(见附录B),说明因素间(实验室间)存在显著性差异。
6.2三因素方差分析在分析化学中经常避到三因素对测量数据的影响。例如将K种不同含量的样品,分送给9个分析人员,各采用m种不同方法进行分析。每种方法都重复次,并考虑各因素间的交互效应。要求判断各因素之间,以及各因素交互效应之间,有无显著性差异。
这里方差来源于:a.试样间,b.方法间,c.分析者间,d,各因素间的交互效应,e.各因素内试验误差。
6.2.1计算步骤
6.2.1,1计算各个因素的测量值总和(T)量值总和:
n·m·k
S=-l...K.
A-l......q.
6.2.1.2计算全部测量值总和(G):k·m·n·g
6.2.1.3计算校正因子(CF)
CF-G\/k.m.nq
6.2.1.4计算总平方和(Q总)
分别有各试样、各方法、各分折者的测测鲁值总和平方险以测量总次数全部测量值的平方和减去校正因子:Q总=Zx.-G*/k·min.g
6.2.1.5计算各因素间平方和各个因素的总平方相加除以该因素水平以外其它因素水平与的乘积,再减去校正因子试样间平方和Qs-
ZTs\-CF
分析者间平方和QA=K·m·n
方法间平方和Q=
ZTA-CF
ZTm-CF
6.2.1.6计算各交互效应的总平方和SJ/Z 8206.14-88
a。试样与分析者交互效应(以S·A表示)的总平方和,设“细胞”内测量值总计为C,则
1-ZC*-CF-(Qa+Qs)
注,“细胞”系指同一条件下测得的数据。一般在列数据表时放在同一格内。详见讨算应用示例7(下)
b试样与分析方法间交互效应(S·M)的总平方和,设“细胞”内测量值总计为d,则
d-CF-(Qs+Qm)
C.分析者与分析方法间交互效应(A·M)的总平方和,设“细胞”内测量值总计为e顺谢
1,-Ze*-CF-(QA+Qu)
d。试样、分析方法及分析者交互效应(S·M·A)的总平方和,设“细胞”内测量值总计为,则
1Zf*-CF-(Qg+Qn+QA+Qs.m+Qs.A+Qm.A)Qs.M.A=
6.2.1.7计算因素内误差总计(Q内)全部测量值的平方和,减去三因素交互效应“细胞”内测量总计值平方和除以测盘次数。Q内-2x*-——2f*
建立方差分析表4
方差来源
互S·M
效A·M
应s.M·A
平方和Q
ET\-CF
m·n-q
ET*-CF
k·m·n
自由度f
ZC*-CF-(Q+Q)J(k-1)(Q-1)
Zd*-CF-(Qs+Q)
Ze\-CF-(QA+Qu)
1 Zf*-CF-(Qs+Qn+Q)
+Q5.M+QS.A++QA.n
x\-G\/k..n.q.n
(k-1)(m-1)
(q-1)(m-1)
(g-1)(m-1)
kq.m(n-1)
SJ/Z3206.1489
表4三因素方差分析表
平均平方
(k-i)(q-1)
(k-1)(m-1)
(q-1)(m-1)
(g-1)(m-1)(k-1)
Zx*-G\/k.m-qn
kqm(n-1)
C+nosa+qnosm+mnosa+qmngg
g,++ngsAm+knoAm+mngsm+kmnga
gi+ng\Am+kngAm+qngsu+kqnom
O.*+OSAx+m.ngSA
g,*+ngSAn+qngom
o,\+ngAm+kngA
ga+ngiAn
SJ/Z3206.14—89
6.2,19让算F值。进行显著性检验,并作出判断。实现此计算方法程序见附录C7.1。7计算和应用
7.1离群值检验
例1:一组b次测量值,按大小顺序排列为0.02,0.12,0.16,0.18,0.18,0.20。第一个数据为可疑值,判断是否是离群值。计算如下:
a,将数据按顺序排列为0.02,0.12,0.16,0.18,0.18,0.20。b。按公式(14)计算:Q,=0,12-0.02/(0.20-0.02)=0.56c判断:n=6时查表1Q。.9=0.56,与计算值相等,数据应予以保留。实现此计算方法程序见附录C1.2。7.2精密度计算
例2:一组10次测量数据见下表5:表5测量数据偏差统计
标准偏差(S):由(5)式得S=V0.3306/9=0.192。方差(S\):由(10)式得S=0.3306/9=0.0367。相对标准偏差(RSD):由(6)式得RSD=0.192×100/4.81=3.35%。
极差(R):由(11)式得R=5.20-4.50=0.70。(X-x)2
实现此计算方程序见附录C2.2。7.3平均值的置信界限(CL)
SJ/Z8206.14-89
例::一组3次测量低为1.11,112,1,13,115,1.16。计算置信水平为95%时平均值的胃值界限。下载标准就来标准下载网
a,计算平均值×=1.13,标准偏差S=0.02。b。由附录A查出t(4,0.5)=2.78C.由(13)式得CL=1.13±2.78×0.02/V5=1,13±0.027。d。平均值在1.10~1.16之间。
实现此计算方法程序见附录C3。2。7.4平均值的比较
7.4.1与标准样品造比较
例4:标准样品中元索的含量为0.123,用新的方法测定4次的结果为0.112,0.115,0.118,0.11,划断平均结果与标准样品含量最之闻是否存在系统误差。a。计第平购值×=0.116,标准偏差S=0.0032。b.由附录A查出t(s,0.5)=3.18c由(12)式计算得t=[0.116-0.123/V4/0.0032=4.38d,计第t值火于表列t值。有系绝误差存在。出直观亦可知测定结果平均值比标准值低0.007,存在负的系统误差。实现此计算方法程序见附录C4.2。7.4.2两个半均值比较
例5:两个分析人员用同一方法分析同一批试样,分别进行11=7,12=9次,平对值X,-92.0B,X,=93.08;其方差S,=0.6505,S2=0.6354,判断两个分析结果是否存在系统误差。
a用F检验法检查两组测定结果精密度的一致性,F=0.6505/0.6354=1.02
查F分布装(见附录B)得F.9588)=3.53,大于计算值,证明精密度一致。b总标准偏差(S总):由(9)式得S总=V(7-1)×0.6505+(9-1)×0.6354/(7+9-2)=0.80c。由(17)式求t值
t=[(93.08-02.08)/0.803×V7×9/(7+9)=2.48d。查t分布装(见附求A)。t(14,0.0s)=2.14e,计算t值大于及列t征,两人分析结果之间存在系统误差。f.在直信水为5%,f=14时,置信区间为:X1-X=±2.15×0.800
02=±0.37
故系统误差的区间(1.00~0.87,1.00-0.87)或(0.13,1,87)。11
SJ/Z3206.14—89
实现此计算方法程序见附录C5.2。7.5方差分析
7.5.1单四索方差分析
例6:同试样分送三个实验室进行分析,数据见下表6。判断实验室之间有无魔著理差异,并计算各实验分析平均值的置信界限。表6
三个实验室分析数据
本例为单因素等重复方差分析。总方差来自各实验室间的方差和各实验室内的方差。
为计算方便,将所有测定值减去0.77,再乘以100,即X=(X-0.77)×100,简化后的数据见下表7:
表7换算后数据
计第步骤如下:
a各实验室测量值总和:TA=11,T=-51,Tc--11。12
小提示:此标准内容仅展示完整标准里的部分截取内容,若需要完整标准请到上方自行免费下载完整标准文档。