您当前的位置:检测资讯 > 实验管理

分析实验中的有效数字和数值修约!

嘉峪检测网        2023-09-07 08:41

分析领域,总是有些老问题,没有搞清楚,比如数值修约,前几天有读者留言让写一下,查了好几天的资料,也梳理了一下,概况版的给大家看看吧,欢迎交流沟通!
 
数值修约规则有官方文件,2008年版本的《数值修约规则与极限数值的表示和判定》(GB/T 8170一2008),这个替代了GB/T1250-1989,以及GB/T8170-1987。(可以来找我要文件)。也有经验总结版,类似广泛使用的“四舍六入五留双”的数字修约规则。 也可归纳为如下口诀:“四要舍,六则入。五后有数需进一。五后为零看左边:若是奇数加上一;若为偶数全舍去。” 但是实际分析工作中没有搞清楚的问题总可以创造出新的话题!先来学一下吧!
 
一、数值修约的基础知识
 
1. 什么是有效数字呢?
 
⑴有效数字是指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的(前后定位用的“0”除外)。
 
例如 测量结果1.1080g,组成数字1、1、0、8、0都是实际测读到的,它们是表示试样质量大小的,因而都是有实际意义的。
 
⑵有效数字的前几位都是准确数字,只有最后一位是可疑数字。
 
例如前述的1.1080, 前几位数字1、1、0、8都是称量读到的准确数字,而最后一位数字0则是在没有刻度的情况下估读出来的,是不准确的或者说可疑的。
 
⑶有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为有效数字位数。
 
例如 数值3.5,有两个有效数字,占有个位、十分位两个数位,因而有效数字位数为两位;3.501有四个有效数字,占有个位、十分位、百分位等四个数位,因而是四位有效数字。
 
⑷测量结果的数字,其有效位数反映了测量结果的精确度,它直接与测量的精密度有关。这也是有效数字实际意义的体现,是非常重要的体现。
 
例如 前述例子中,若测量结果为1.1080g,则表示测量值的误差在10-4量级上,天平的精度为万分之一;若测量结果为1.108g,则表示测量值的误差在10-3量级上,天平的精度为千分之一。
 
2、有效数字位数的确定原则
 
在确定有效数字位数时应遵循下列原则:
 
⑴数值中数字1~9都是有效数字。
 
⑵数字“0”在数值中所处的位置不同,起的作用也不同,可能是有效数字,也可能不是有效数字。判定如下:
 
① “0”在数字前,仅起定位作用,不是有效数字。
 
例如 0.0257中, “2”前面的两个“0”均非有效数字。 0.123、0.0123、0.00123中“1”前面的 “0”也均非有效数字。
 
②数值末尾的“0”属于有效数字。
 
例如 0.5000中, “5”后面的三个“0”均为有效数字;0.50中, “5”后面的一个“0”也是有效数字。
 
③数值中夹在数字中间的“0”是有效数字。
 
 例如 数值1. 008中的两个“0”是均是有效数字;数值8. 01中间的 “0”也是有效数字。
 
④以“0”结尾的正整数, “0”是不是有效数字不确定,应根据测试结果的准确度确定。
 
例如 3600,后面的两个“0”如果不指明测量准确度就不能确定是不是有效数字。测量中遇到这种情况,最好根据实际测试结果的精确度确定有效数字的位数,有效数字用小数表示,把“0”用10的乘方表示。如将3600写成3.6×103表示此数有两位有效数字;写成3.60×103表示此数有三位有效数字;写成3.600×103表示此数有四位有效数字。
 
以文献来说明
 
一般情况下,称量或者移取操作后,直接读取的数值即为有效数字。但是“0”在数值中的位置与有效数字的位数有直接关系,主要有以下3种情况:
 
第一,“0”在数值中间。此时,读取的数值即为有效数字,其中每个阿拉伯数字都代表一位有效数字。如,某物称量结果显示为3.2011g,则此次称量值的有效数字有5位,即“32011”。
 
第二,“0”在数值前面。数值前面的“0”只起定位作用。如,称量结果显示为3.2011g,按照质量单位进行折算后,3.2011 g = 0.0032011 kg =0.0000032011t,其有效数字均为5位,即“32011”。0.0032011kg中3前面的3个“0”和0.0000032011T 中3前面的6个“0”只起到定位作用,不影响有效数字的位数。
 
第三,“0”在数值后面。数值末位有“0”时,则要考虑两种情况。第一种情况为“0”在小数的末位,如1.000、2.00、5.0等,此时“0”代表1位有效数字,且“0”之前的所有数字都代表1位有效数字。
 
1.000有效数字为4位、2.00有效数字为3位、5.0有效数字为2位。第二种情况为“0”在整数的末位,
 
如1000、200、50等,这种情况统称为有效数字位数不明,需要使用“科学记数法”标明有效数字位数。
 
以1000为例:1×103的有效数字为1位,1.0×10^3的有效数字为两位,1.00×10^3的有效数字为3位,
 
1.000×10^3的有效数字为4位。
 
此外,pH、pK等对数值,有效数字的位数为小数点后数字的位数,如pH 为1.30、pKa为11.85的有效数字位数均为两位。
 
二、数值修约及规则
 
1.数值修约
 
通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。经数值修约后的数值称为(原数值的)修约值。
 
2.修约间隔
 
修约值的最小数值单位。
 
注:修约间隔的数值一经确定,修约值即为该数值的整数倍。
 
例1:如指定修约间隔为0. 1,修约值应在0. 1 的整数倍中选取,相当千将数值修约到一位小数。
 
例2: 如指定修约间隔为100,修约值应在100 的整数倍中选取,相当千将数值修约到“百“数位。
 
举例:
 
将60.28修约到个数位的0.1单位(即保留1位小数),其结果为60.3。
 
3、GB/T 8170-2008 《数值修约规则》
 
进舍规则
 
⑴拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
 
例如 将12.1498修约到一位小数,得12.1。
 
例如 将12.1498修约成两位有效位数,得12。
 
⑵拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。
 
例如 将1268修约到“百”数位,得13×102(特定时可写为1300)。
 
例如 将1268修约成三位有效位数,得127×10(特定时可写为1270)。
 
例如 将10.502修约到个数位,得11。
 
注:“特定时”的涵义系指修约间隔或有效位数明确时。
 
⑶拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。
 
⑷负数修约时,先将它的绝对值按上述⑴⑵⑶规定进行修约,然后在修约值前面加上负号。
 
举例
 
总结起来,为了避免“四舍五入”进舍规则造成误差偏大的现象,现行一般采用“四舍六入五留双”的进舍规则。该规则针对修约间隔值的十分之一所对应的数位上的数字:小于等于4,舍弃;大于等于6,修约间隔值对应数位的数字加1;5后有大于等于1的数字,修约间隔值对应数位的数字加1;5后没有大于等于1的数字,修约间隔值对应数位的数字保留偶数。例如,将15.4565按修约间隔为1修约,修约结果为15(小于等于4舍);修约间隔为0.1,修约结果为15.5(5后有数进);修约间隔为0.01,修约结果为15.46(大于等于6入);修约间隔为0.001,修约结果为15.456(5后无数留双)。
 
⑸ 0.5单位修约与0.2单位修约
 
① 0.5单位修约 既将拟修约数乘以2,按指定数位依3.4规则修约,所得数再除以2。
 
② 0.2单位修约 既将拟修约数乘以5,按指定数位依3.4规则修约,所得数值再除以5。
 
举例:
 
在实际检测中,0.5单位修约(半个单位修约)和0.2单位修约也较为常用。例如,将60.28以0.5个单位进行修约,其结果为60.5。修约方法为60.28×2=120.56,修约间隔为1,修约后为121;除以2得到修约结果为60.5。将60.28以0.2单位进行修约,其结果为60.2。修约方法为60.28×5=301.4,修约间隔为1,修约后为301;除以5得到修约结果为60.2。
 
2.通用数值修约方法
 
⑴如果为修约间隔整数培的一系列数中,只有一个数最接近于拟修约数,则该数就是修约数。
 
例如 将1.150001按0.1修约间隔进行修约。此时,与拟修约数1.150001邻近的为修约间隔整数倍的数有1.1和1.2(分别为修约间隔的11倍和12倍),然而只有1.2最接近于拟修约数,因此1.2就是修约数。 
 
⑵如果为修约间隔整数培的一系列数中,有连续两个数同等接近于拟修约数,则这两个数中,为修约间隔偶数培的数就是修约数。
 
例如,将1150按100修约间隔行修约。此时,与拟修约数1150邻近的为修约间隔整数倍的数有1100和1200(分别为修约间隔的11倍和12倍),这两个数同等接近于拟修约数,然而1200为修约间隔的偶数培(12倍),因此1200 就是修约数。 
 
⑶一个数据的修约只能进行一次,不能分次修约,否则将有可能得到错误结果。例如,将15.4565修约到个位时,一步到位正确的修约结果为15,而分步修约将得到错误的结果16(修约过程为15.4565→15.456→15.46→15.5→16)。
 
最后,也不知道说清楚没有,可以后台留言讨论哈!
 
[1]赵新颖,危晴,曹奇光,袁騉.分析实验中的有效数字和数值修约[J].分析仪器,2021(02):110-111.
 
[2]《数值修约规则与极限数值的表示和判定》(GB/T 8170一2008).
 
[3]正确使用数值修约规则[J].上海护理,2021,21(07):51.
 
[4]刘海燕,赵怡,胡坪,钱俊红,张文清.分析化学有效数字教学中常见问题及分析[J].大学化学,2018,33(10):105-109.
 
[5]马凤莲,吴植强,唐青平,李沛,马俊.浅析数值修约在医疗器械检验中的应用[J].中国标准化,2018(S1):248-251+255.
 
[6]张健.数值修约规则的理解与应用[J].标准科学,2018(10):124-125+134.
 
[7]冷崇姣,侯小梅,王梅.关于GB/T 8170—2008《数值修约规则与极限数值的表示和判定》在食品检验中应用的思考[J].食品工程,2017(03):1-3+8.
 

 
分享到:

来源:Internet