离群数据的判断和处理原则汇总-ag捕鱼平台

ag捕鱼平台主页 > 技术知识 >

离群数据的判断和处理原则汇总

 离群数据来源与判断:
1、离群值按产生原因分为两类:

a)第一类离群值是总体固有变异性的极端表现,这类离群值与样本中其余观测值属于同一总体;

b)第二类离群值是由于试验条件和试验方法的偶然偏离所产生的结果,或产生于观测、记录、计算中的失误,这类离群值与样本中其余观测值不属于同一总体。对离群值的判定通常可根据技术上或物理上的理由直接进行,例如当试验者已经知道试验偏离了规定的试验方法,或测试仪器发生问题等。当上述理由不明确时,可用本标准规定的方法。



2、离群值的三种情形:

本标准在下述不同情形下判断样本中的离群值:

a)上侧情形:根据实际情况或以往经验,离群值都为高端值;

b)下侧情形:根据实际情况或以往经验,离群值都为低端值;

c)双侧情形:根据实际情况或以往经验,离群值可为高端值,也可为低端值。



3、检出离群值个数的上限

应规定在样本中检出离群值个数的上限(与样本量相比应较小),当检出离群值个数超过了这个上限时,对此样本应作慎重的研究和处理。



4、单个离群值情形

a)依实际情况或以往经验选定,选定适宜的离群值检验规则(格拉布斯检验、狄克逊检验等);

b)确定适当的显著性水平;

c)根据显著性水平及样本量,确定检验的临界值;d)由观测值计算相应统计量的值,根据所得值与临界值的比较结果作出判断。



5、判定多个离群值的检验规则

在允许检出离群值的个数大于1的情况下,重复使用检验规则进行检验。若没有检出离群值,则整个检验停止;若检出离群值,当检出的离群值总数超过上限时,检验停止,对此样本应慎重处理,否则,采用相同的检出水平和相同的规则,对除去已检出的离群值后余下的观测值继续检验。



离群值处理
1、处理方式

处理离群值的方式有:

a)保留离群值并用于后续数据处理;

b)在找到实际原因时修正离群值,否则予以保留;

c)剔除离群值,不追加观测值;

d)剔除离群值,并追加新的观测值或用适宜的插补值代替。

格鲁布斯检验方法:

在定量分析实验中,实验结束后,必须对分析数据进行处理,在一组分析数据中,往往有个别数据与其它数据相差较大,这种个别数据称为可疑值。

对可疑值的处理,应首先回顾和检查生产可疑值的实验过程,有无可觉察到的技术上的异常原因。

当原因不明时,必须按一定的数理统计方法进行处理,决定是保留还是舍弃。

格鲁布斯检验法效果比较好的方法。格鲁布斯检验法的优点是在判断可疑值取舍的过程中,将正态分布中的两个最重要的参数—平均值和标准偏差引进来,故方法的准确性较高。方法计算的过程是这样的:

1.实验得出一组数据x1;x2;x3;x4……xn,怀疑其中某个数据可疑(x可疑)

2.计算x1;x2;x3;x4……xn 的平均数(x平均)标准偏差(s)

3.计算格鲁布斯g计算=(x平均-x可疑)/s,取绝对值

4.查表求格鲁布斯g查表

5.若g计算≥g查表,则可疑数据舍去,反之保留



2、处理规则

对检出的离群值,应尽可能寻找其技术上和物理上的原因,作为处理离群值的依据。应根据实际问题的性质,权衡寻找和判定产生离群值的原因所需代价、正确判定离群值的得益及错误剔除正常观测值的风险,以确定实施下述三个规则之一:



a)若在技术上或物理上找到了产生离群值的原因,则应剔除或修正;若未找到产生它的物理上和技术上的原因,则不得剔除或进行修正。



b)若在技术上或物理上找到产生离群值的原因,则应剔除或修正;否则,保留歧离值,剔除或修正统计离群值;在重复使用同一检验规则检验多个离群值的情形,每次检出离群值后,都要再检验它是否为统计离群值。



若某次检出的离群值为统计离群值,则此离群值及在它前面检出的离群值(含歧离值)都应被剔除或修正。



c)检出的离群值(含歧离值)都应被剔除或进行修正。


3、备案

被剔除或修正的观测值及其理由应予记录,以备查询。