您当前的位置:检测资讯 > 科研开发

实验中的离群数据应该怎样判断和处理?判断原则汇总!

嘉峪检测网        2023-04-13 08:29

离群值(outlier),也称逸出值,是指在数据中有一个或几个数值与其他数值相比差异较大。chanwennt准则规定,如果一个数值偏离观测平均值的概率小于等于1/(2n),则该数据应当舍弃(其中n为观察例数,概率可以根据数据的分布进行估计)。

 

离群数据来源与判断

 

1、离群值按产生原因分为两类

 

a)第一类离群值是总体固有变异性的极端表现,这类离群值与样本中其余观测值属于同一总体;

 

b)第二类离群值是由于试验条件和试验方法的偶然偏离所产生的结果,或产生于观测、记录、计算中的失误,这类离群值与样本中其余观测值不属于同一总体。对离群值的判定通常可根据技术上或物理上的理由直接进行,例如当试验者已经知道试验偏离了规定的试验方法,或测试仪器发生问题等。当上述理由不明确时,可用本标准规定的方法。

 

2、离群值的三种情形

 

本标准在下述不同情形下判断样本中的离群值:

 

a)上侧情形:根据实际情况或以往经验,离群值都为高端值;

 

b)下侧情形:根据实际情况或以往经验,离群值都为低端值;

 

c)双侧情形:根据实际情况或以往经验,离群值可为高端值,也可为低端值。

 

3、检出离群值个数的上限

 

应规定在样本中检出离群值个数的上限(与样本量相比应较小),当检出离群值个数超过了这个上限时,对此样本应作慎重的研究和处理。

 

4、单个离群值情形

 

a)依实际情况或以往经验选定,选定适宜的离群值检验规则(格拉布斯检验、狄克逊检验等);

 

b)确定适当的显著性水平;

 

c)根据显著性水平及样本量,确定检验的临界值;d)由观测值计算相应统计量的值,根据所得值与临界值的比较结果作出判断。

 

5、判定多个离群值的检验规则

 

在允许检出离群值的个数大于1的情况下,重复使用检验规则进行检验。若没有检出离群值,则整个检验停止;若检出离群值,当检出的离群值总数超过上限时,检验停止,对此样本应慎重处理,否则,采用相同的检出水平和相同的规则,对除去已检出的离群值后余下的观测值继续检验。

 

离群值处理

 

1、处理方式

 

处理离群值的方式有:

 

a)保留离群值并用于后续数据处理;

 

b)在找到实际原因时修正离群值,否则予以保留;

 

c)剔除离群值,不追加观测值;

 

d)剔除离群值,并追加新的观测值或用适宜的插补值代替。

 

格鲁布斯检验方法: 

 

在定量分析实验中,实验结束后,必须对分析数据进行处理,在一组分析数据中,往往有个别数据与其它数据相差较大,这种个别数据称为可疑值。

 

对可疑值的处理,应首先回顾和检查生产可疑值的实验过程,有无可觉察到的技术上的异常原因。

 

当原因不明时,必须按一定的数理统计方法进行处理,决定是保留还是舍弃。

 

格鲁布斯检验法效果比较好的方法。格鲁布斯检验法的优点是在判断可疑值取舍的过程中,将正态分布中的两个最重要的参数—平均值和标准偏差引进来,故方法的准确性较高。方法计算的过程是这样的:

 

1.实验得出一组数据X1;X2;X3;X4……Xn,怀疑其中某个数据可疑(X可疑)

 

2.计算X1;X2;X3;X4……Xn 的平均数(X平均)标准偏差(S)

 

3.计算格鲁布斯G计算=(X平均-X可疑)/S,取绝对值

 

4.查表求格鲁布斯G查表

 

5.若G计算≥G查表,则可疑数据舍去,反之保留

 

2、处理规则

 

对检出的离群值,应尽可能寻找其技术上和物理上的原因,作为处理离群值的依据。应根据实际问题的性质,权衡寻找和判定产生离群值的原因所需代价、正确判定离群值的得益及错误剔除正常观测值的风险,以确定实施下述三个规则之一:

 

a)若在技术上或物理上找到了产生离群值的原因,则应剔除或修正;若未找到产生它的物理上和技术上的原因,则不得剔除或进行修正。

 

b)若在技术上或物理上找到产生离群值的原因,则应剔除或修正;否则,保留歧离值,剔除或修正统计离群值;在重复使用同一检验规则检验多个离群值的情形,每次检出离群值后,都要再检验它是否为统计离群值。

 

若某次检出的离群值为统计离群值,则此离群值及在它前面检出的离群值(含歧离值)都应被剔除或修正。

 

c)检出的离群值(含歧离值)都应被剔除或进行修正。

 

3、备案

 

被剔除或修正的观测值及其理由应予记录,以备查询。 

 

分享到:

来源:Internet