本标准规定了海洋检测的术语及符号，离群数据的统计检验，两均数差异的显著性检验，分析方法验证，内控样的配制与应用，分析质量控制图等。本标准适用于海洋环境监测中海水分析、沉淀物分析、生物污染生态调查和生物检测的数据处理及实验室内部分析质量控制。海洋大气，污染物入海通量调查、海洋倾废和疏浚物调查等也可参照使用。 GB 17378.2-1998 海洋监测规范 第2部分:数据处理与分析质量控制 GB17378.2-1998 标准下载解压密码：www.bzxz.net
本标准规定了海洋检测的术语及符号，离群数据的统计检验，两均数差异的显著性检验，分析方法验证，内控样的配制与应用，分析质量控制图等。 本标准适用于海洋环境监测中海水分析、沉淀物分析、生物污染生态调查和生物检测的数据处理及实验室内部分析质量控制。海洋大气，污染物入海通量调查、海洋倾废和疏浚物调查等也可参照使用。

GB 17378. 2—1998
本标准是《海洋监测规范》的第2部分，是在HY003.2~-91行业标准的基础上修订而成的。本标准是海洋监测的数据处理与分析质量控制的技术规定。《海洋监测规范》包括下列部分：GB 17378. 1—1998
GB 17378. 2—1998
GB 17378. 3--1998
GB 17378. 4--1998
GB 17378. 5—1998
GB 17378. 6--1998
GB 17378. 7--1998
海洋监测规范
海洋监测规范
海洋监测规范
海洋监测规范
海洋监测规范
海洋监测规范
第1部分：总则
第2部分：数据处理与分析质量控制第3部分：样品采集、贮存与运输第4部分：海水分析
第5部分：沉积物分析
第6部分：生物体分析
第7部分：近海污染生态调查和生物监测海洋监测规范
本标准附录 A 是提示的附录。
本标准由国家海洋局提出。
本标准由国家海洋标准计量中心归口。本标准由国家海洋环境监测中心负责起草。本标准主要起草人：张春明、陈邦龙、汪惠昌、李乃兰、徐维龙。334
1范图
中华人民共和国国家标准
海洋监测规范
第2部分：数据处理与分析质量控制The specification for marine monitoringPart 2:Data processing and quality control of analysisGB 17378.2—1998
本标准规定了海洋监测的术语及符号，离群数据的统计检验，两均数差异的显著性检验，分析方法验证，内控样的配制与应用，分析质量控制图等。本标准适用于海洋环境监测中海水分析、沉积物分析、生物体分析、近海污染生态调查和生物监测的数据处理及实验室内部分析质量控制。海洋大气，污染物入海通量调查、海洋倾废和疏浚物调查等也可参照使用。
2引用标准
下列标准所包含的条文，通过在本标准中引用而构成为本标准的条文，本标准出版时，所示版本均为有效。所有标准都会被修订，使用本标准的各方应探讨使用下列标准最新版本的可能性。GB8170--87数值修约规则
3定义
本标准采用下列定义。
3.1实验室样品laboratory sample可送达实验室进行分析、测试的样品，分为原始样、分析样、测定样。3.2原始样　raw sample
现场采集的初始样品。
3.3 分析样 analytical sample需要经过预处理，才能进入测定的样品。3.4测定样test sample
能够直接送交测定的待测物质的样品。若分析样不需任何处理，分析样与测定样是一致的。3.5 平行样 parallel sample
取自同一个样本互相独立的样品。3.6 标准空白standard blank
标准系列中零浓度的响应值。
3.7分析空白analysis blank
在与样品分析全程一致的条件下，空白样品的测定结果。3.8校准曲线calibration curve国家质量技术监督局1998-06-22批准1999-01-01实施
GB 17378. 2— 1998
样品中待测项目的量值(X)与仪表给出的信号值（Y)之间的相关曲线。校准曲线分为标准曲线和工作曲线。
3.9工作曲线working curve
标准系列的测定步骤与样品完全相同的校准曲线。3.10标准曲线standard curve
标准系列的测定步骤比样品有所简化的校准曲线。3.11方法灵敏度method sensibility某方法对单位浓度或单位量待测物质变化所致的响应量变化的程度。3.12 检出限(X） detection limit分析方法的检出限是指95%概率，能定性区别于零的最低浓度或量。3.13测定下限（X）limit of determination是具有给定的概率（如95%），在定量上可检出非零的最低浓度或量。3.14第一类错误（α错误）typeIerror（α error）原假设为真而被拒绝，又称弃真。例如，被测物为零的假设原本是正确的，却被错误地拒绝，而误判为检出，反之亦然。
3.15第二类错误(β错误）type Ierror（βerror）原假设不真，但被接受，又称存伪。例如，被测物为零的假设，本是错误的，却被错误地接受，而判成未检出，反之亦然。
3.16未检出undetection
低于检出限 Xn 的测定结果。
3.17精密度precision
在规定条件下，相互独立的测试结果之间的一致程度。注：精密度仅依赖于随机误差，而与被测量的真值或其他约定值无关。3.18极差（R）range
样本中最大值与最小值之差。
3.19偏差(D）deviation
各个单次测定值与平均值之差。3.20相对偏差(RD）relative deviation样本分量与样本均值之差再与样本均值之比。3.21标准偏差standard deviation样本分量与样本均值之差的平方和除以样本量减1的平方根：S
式中：S
标准偏差；
X,-各次测定值；
X平均值；
n—重复测定次数；
当n≥20时：8=
[1之(x-x)。
(X,-x)
3.22相对标准偏差(RSD）
relative standard deviation
样本标推偏差与样本均值之比。3.23重复性repeatability
GB 17378. 2 1998
在重复性条件下，相互独立的测试结果之间的一致程度。3.24重复性条件repeatability condition在同一实验室，由同操作者使用相同的设备，按相同的测试程序在短时间内，对同一被测对象相互独立进行的测试条件。
3.25再现性reproducibility
在再现性条件下，,测试结果之间的-致程度。3.26再现性条件reproducibilityconditions在进行测试的实验室，操作者，测试设备，测试程序（方法），测试时间有本质变化的情况下，对同-被测对象相互独立进行的测试条件。3.27准确度accaracy
测试结果与被测量真值或约定真值间的一致程度。3.28测试误差error of a test
测试结果与被测量的真值(或约定真值)之差。测试误差包括系统误差和随机误差。3.29系统误差systematio error在对同一被测量的多次测量中，它保持不变或按某种规律而变化。注：系统误差及其引起的原因可以是已知的，也可以是未知的。3.30随机误差random error
在对同一被测量的多次测试中，它受偶然因素影响而以不可预知的方式变化。注：偶然误差是不可能被修正的。3.31 统计量 statistic
样本的函数，它不依赖于未知参数。4有关规定
4.1现场原始工作记录在指定的表格上用硬质铅笔书写、字迹端正，不得涂抹。需要改正错记时，在错的数字上划一横线，将正确数字补写在其上方。4.2正确地记录与修约有效数字的位数，按5.1给出的方法记取，不得任意增减数字的位数，以保证数据的精确度。
4.3原始工作记录是重要的技术档案资料，应按其保存价值，分类规定出归档要求。4.4表示测试结果的量纲及其有效数字位数，应参照该分析方法中具体规定填报。若无此规定时，一般性原则是：一个数据中只准许未尾个数字是估计（可疑)值，其他各数字都是有效(可信)的，依此决定整数及小数的有效位数。因量纲的变化不作小数取位的硬性规定，有关计算方法的细节，见第5章。4.5低于检出限X~的测试结果，应报“未检出”，但在区域性监测检出率占样品频数的1/2以_上（包括1/2)或不足1/2时，未检出部分可分别取X的1/2和1/4量参加统计运算。4.6未执行业务主管部门规定的质量控制程序所产生的数据，视为可疑数据，可疑数据不得用于海洋环境质量及海洋环境影响评价。4.7测试平行样品也是分析质量控制的方法之一。原则规定，不与内控样同步测定的项目，一律测试双平行分析样，只有个别测项如溶解氧、水中油类等须测原始样双平行（此类不必测分析样双平行）。海水双样的相对偏差允许值，若原方法无此规定，则按表1执行。沉积物和生物体双样相对偏差表见GB17378.5和GB17378.6。337
分析结果所在数量级
相对偏差容许限，%
GB 17378. 2 -- 1998
表1海水平行双样相对偏差表
4.8天然样品加标回收率，不得越出方法给出范围值。若无此规定，参照表2。
表2回收率容许值表
浓度或含量范围，μg/I.
容量及重量法
计算4=×100%
回收率，%
60~110
80~110
90~110
95~105
4.9在海洋监测中，若采用本规范以外的分析方法，必须按规定做方法对比验证工作，报请业务主管部门批准备案。
5数据处理
5.1有效数字和数值修约
5.1.1有效数字
0，1，2，3，4，5，6，7，8,9这些数码叫数字，一个以上的数字组合构成个数值。在一个数值中每个数字所占位置叫数位，小数点后的第一位叫十分位，以下依次为百分位、千分位·，小数点前的第一位叫个位，其前位依次为十位、百位、干位··一个数值中每个数位上的数字都应是有效的，只有末位数字允许是估计数字，但其波动辐度不得大于士1。例如末位数字为5时可能是4或6，而其余的各个数字都是可信的数字（定位0例外）。表达一个数值中由几个数字组成的，叫有效数字位数。位数的多少，除了反映量值的大小之外，在分析领域中还反映该数值的准确程度。例如0.6705g草酸钠，这一数值在量值上为0.6～0.7g之间，在准确程度上，可信数字截取在千分位上的0,在万分位的数字5是可疑的，但其波动范围小于0.0002g。数码“0\的作用变化较多，一个数值中“0”是否为有效数字，要根据\0\的位置及其前后的数字状况而定。常见的有以下四种情况：5.1.1.1位于非“0\数字之间的\0”,如2.005,1.025两个数值中的三个\0\都是有效数字。5.1.1.2位于非“0\数字后面的一切\0”都是有效数字（全整数尾部“0\例外）。如2.2500，1.0250。5.1.1.3前面不具非零数字的“0”，如0.0025中的三个“0”都不是有效数字，只起定位作用。5.1.1.4整数中最后的“0”,可以是有效数字，也可以不是。例如用普通天平称取1.5g试剂，若必须用mg表示，则要写成1500mg，此数值中最后两个“0”从表观上是有效数字，但实际上不是，因为粗天平不能达到如此高的准确程度。为了避免误解，可用指数形式表示，上例可记为1.5×10°mg，或记为1500mg土100mg这便明白地表示出只有两位有效数字。5.1.2数据的原始记录
数值的有效数字的位数是反映其准确程度的主要标志。为了确保数据应有的准确度，从正确地记录原始数据开始，对任何一个有计算意义的数据都要审慎地估量，正确地记载有效数值的位数。例如50mL滴定管的最小分度值为0.1mL，又因为允许增加一位估计数字，可以记录到两位小数，如12.34mL。记下这一数值表明十分位上的3是刻度指示值，确切可信，百分位上的4则是估计判读的，是可疑数字，并知其波动范围为0.02mL，其相对误差为（0.02/12.34）×100%=0.16%。若在原始记录中仅记为12.3mL，则表示可能产生1.6%的相对误差。由于原始记录不合理致使数据的准确度下降个数量级。但也不可任意增加有效数字的位数。如前例记成12.340则是明显失真，因为不可能估计出338
GB 17378. 2— 1998
两位数字。原始记录的有效数字位数，既不可少，也不可多。记取的原则是根据仪器、仪表指示的最小分度值如实记录并允许增记一位估计数字。实验室通用的计量仪表可记取的位数如下：万分之一天平小数点后第四位即万分位。上Ⅲ天平小数点后第二位即百分位。分光光度计吸光值记到小数点后第三位即千分位。玻璃量器记取的有效数字位数须根据量器的允许误差和读数误差决定。常见的一等量器准确容量的记录按表3和表4。表3
一等无分度移液管准确容量的表示容量示值
容量示值www.bzxz.net
5.1.3近似计算规则
充许差
一等量入式量瓶准确容量的表示表4
允许差
准确容量
准确容量
为了确保最终结果的数值中只包含有效数字（定位“0”例外）在运算中要遵守下列规则：ml
5.1.3.1加减运算最终计算结果中保留的小数有效位数，应与参加运算的数值中小数位数最少者相同。例：
11.14+5.91225=17.05225→17.0511.14—5.91225-5.22775→5.23上例最终结果只能保留两位小数，因为11.14的末位数字4本身就不可信，其后的数字则更不可信。
乘除运算
得数经修约后，保留的有效数字位数应与参加运算的几个数值中有效数字位数最339
少者相同。
GB 17378.2 1998
5.1.3.3对数运算对数的有效数字位数应和原数（真数）的相同。5.1.3.4平方、立方、开方运算计算结果的有效数字位数应和原数的相同。5.1.3.5元、和2、3、号
等的有效位数，须参照与之相关的数据决定保留的位数。5.1.3.6来自-个正态总体的-组数据，多于4个时，其平均值的有效数字位数可比原数的增加一位5.1.3.7用于表示方法或分析结果精密度的标准差，其有效数字的位数一般只取--位；当测定次数很多时可取两位，且最多只能取两位。5.1.3.8报告分析结果有效数字位数.应根据分析方法的精密度即标准差的大小决定。通常可取四分之一个标准差的首数所在数位，定为分析结果的尾数。例如某一测定结果为25.352，标准差为1.4，四分之标准差为0.35，其首位数字所在数位是十分位，即定为该结果的末位，可报为25.4。5.1.4数值修约
数值修约详见GB8170—87有关规定。5.1.4.1在拟舍弃的数字中，若左边第-个数字小于5（不包括5)时则舍去，即拟保留的末位数字不变。
例如将14.2432修约到保留一位小数：修约前
修约后
5.1.4.2在拟舍弃的数字中，若左边第个数字大于5（不包括5)时，则进一，即所拟保留的末位数字加一。
例如将26.4843修约到只保留一位小数：修约前
修约后
5.1.4.3在拟舍弃的数字中，若左边第个数字等于5，其右边的数字并非全部为“0时.则进一；若5的右边皆为“0”，拟保留的末位数字若为奇数则进一，若为偶数（包括“0”)则不进。例如将下列数值修约到只保留一位小数：修约前
修约后
5.1.4.4所拟舍弃的数字，若为两位以上数字时，不得连续进行多次修约，应根据所拟舍弃数字中左边第…个数字的大小，按上述规定一次修约出结果。例如将15.4546修约成整数。
正确的做法是：
修约前
不正确的做法：
修约后(结果）
修约前
三次修约
GB 17378. 2 -- 1998
一次修约
四次修约(结果)
二次修约
在修约计算过程中对中间结果不必修约、将最终结果修约到预期位数。5.2异常值的统计检验
组（群）正常的测定数据，应是来自具有一定分布的同一一总体；若分析条件发生显著变化，或在实验操作中出现过失，将产生与正常数据有显著性差别的数据，此类数据称为离群数据或异常值。仅怀疑某一数据可能会歪曲测定结果，但尚未经过检验判定为异常值时，称此数据为可疑数据5.2.1可疑数据的检验
剔除离群数据，会使测定结果更客观；若仅从良好愿望出发，任意删去一些表观差异较大并非离群数据，虽由此得到认为满意的数据，但并不符合客观实际。因此，对可疑数据的取舍，必须参照下述原则处理。
5.2.1.1仔细回顾和复查产生可疑值的试验过程，如果是过失误差，则舍弃。5.2.1.2如果未发现过失，则要按统计程序检验，决定是否舍弃。5.2.2异常值的判别准则
5.2.2.1计算的统计量不大于显著性水平α=0.05的临界值，则可疑数据为正常数据，应保留。5.2.2.2计算的统计量大于α=0.05的临界值但又不大于α=0.01的临界值，此可疑数据为偏离数据，可以保留，取中位数代替平均数值。5.2.2.3计算的统计量大于α一0.01的临界值，此可疑值为异常值，应予剔除，并对剩余数据继续检验，直到数据中无异常值为止。5.2.3异常值的检验方法
常用的检验方法如下。
5.2.3.1Dixon检验法
用于一组测定数据的一致性检验和剔除异常值检验。步骤：
a.将重复n次的测定值从小到大排列为X,、X2、X.X,；b.按表5列公式，求算Q值；
c.根据选定的显著水平α和重复测定次数n，查表6得临界值Q。；d．按5.2.2条的判别准则，决定取舍。若Q>Qo.01，则可疑值为异常值，舍弃。若Q.05检验最小值14.56是否为异常值。可疑值为最小值X，时，按下式计算统计量Q：Q
x.-,= X, -
14. 90 14. 56
15. 01 14.56
当n=10，显著性水平α=0.01,查表6临界值为0.597，0.755>0.597
判定最小值X，为异常值，应予剔除。GB17378.2-1998
表5Dixon检验统计量（Q)计算公式n值范围
8～10
11～13
可疑数值为最小值X，时
X,—X
Qu=x--x
-2—X
表 6Dixon检验临界值(Q.)表
显著性水平（α）
5.2.3.2Grubbs检验法
可疑数值为最大值X，时
X,-X,-1
X,—Xi
X,X,--
Qu-X-X
Qa-X-X
显著性水平（α）
用于多组测定均值的一致性检验和剔除离群值的检验。也适用于实验室内一系列单个测定值的致性检验。
步骤：
设有L组数据，各组平均值分别为X,x，……X。1）将L个均值按大小顺序排列，最大均值记为Xmax，最小均值记为Xmin；2）由L个均值(x,)计算总均值文和标准偏差s：(, -)2
式中：x,—
一代表各组均值
3）根据可疑值max或Xmin分别按下式计算统计量ti或t2；Xmax —x
—Xmin
4）根据给定的显著性水平α和组数L查表7得临界值；5）按5.2.2条的判别准则，决定取舍；6）若本法用于实验室内一组数据检验时，将组数L改为测定次数n，将各组平均值x,改为单次测定值X。
GB 17378.2—1998
例有10个实验室分析同一样品，其平均值分别为4.41，4.49，4.30，4.51，4.64，4.75，4.81，4.95，5.01，5.39，检验最大值5.39是否为离群值。10
4.746 = 4.75
Xmax —
=0.30510.31
5.39—4.75
当L10,α0.05，查表7临界值（T。)为2.18；判定：2.11<2.18，t显著性水平(α）
3Cochran最大方差检验法
用于多组测定值的方差一致性检验和剔除离群方差检验。步骤：
设有L组数据，每组测定n次，标准差分别为S.，S2，S.，...SL显著性水平(α）
GB17378.21998
1）将L个标准差（S,)按大小顺序排列，最大者记为 Sm2）计算统计量C；
若n一2,即每组只有两次测定时，各组内差值分别为R1，R2，R..Rz，则要按下式计算统计量C：Rmax
3）根据选定的显著性水平α、组数L、测定次数n查表8得临界值Ca;4）按5.2.2条异常值的判别准则，决定取舍。例16个实验室分析同-样品，各实验室5次测定的标准差分别为0.84，1.30，1.48，1.67，1.79，2.17。检验6个实验室是否为等精度。其中：
Smax=2. 17
C= S= a
2—0.308
0.842 +1.302 +.... +2.172
根据选定水平α-0.05，L=6，n=5，查表8得临界C。为0.480；判定：0.308<0.480,C0. 0 + 0. * + 0. 1 + . + 0. g . 850选定显著性水平α=0.01,L=7，n一2，查表8得临界值C。为0.838。判定：0.850>0.838C>C.01，0.92属于离群方差，0.9与其他实验室的测定精度不等，应予剔除。表8Cochran最大方差检验临界值(C.）表L
α0.05a0.01
两均数差异的显著性检验
GB 17378.2—1998
表8（完）
α=0.05α=0.01
运用统计检验程序，以判别两组数据之间的差异是否显著，从而更合理地使用数据，做出正确的结论。
程序中承认并采用了统计学的理论和假设，用以估计检验数据的可信程度。环境分析工作，会经常遇到需要进行显著性检验的数据，为此选取了t检验、F检验等检验方法。这些方法各有不同的应用领域和应用条件，足能适应大部分正态分布数据的统计检验。正确无误地处理数据，是分析质量保证的组成部分。5.3.1两组均数之间的显著性检验一一t检验法t检验法适用于样本容量较少，总体方差未知但要等精度两组数据的比较检验。此法的应用范围和应用条件，适用环境分析领域。t检验法可有三种计算公式选择，分别满足不同目的和不同类型的统计检验，见表9。
表9各计算公式适用领域
5.3.1.2成对数据的比较
5.3.1.3两样本均值比较
5.3.1.4样本均值与总体均值比较5.3.1.1t检验法的判定准则
Ixi-x,1—d
Sx,-X2
适用领域
不同分析方法对比，改变分析条件、反应条件对比，不同时间、空间变化前后对比同一方法不同样品，或同一样品不同方法比对，贮存条件的对比
两级标准物质、标准溶液对比，回收率检验345
小提示：此标准内容仅展示完整标准里的部分截取内容，若需要完整标准请到上方自行免费下载完整标准文档。