您当前的位置:检测资讯 > 实验管理

有效数字的数值和运算

嘉峪检测网        2025-08-26 10:46

1 有效数字
 
有效数字是分析中具有实际意义的测定数值。它是由直接读取的准确数字和通过估读得到的可疑数字(最后一位)组成
 
例如:3.2438中的“8”和0.130中的“0”。
 
有效数字的个数是有效位数,对于不同类型的测定数值其有效位数为:
 
有效数字的数值和运算
 
2 数值修约规则
 
一般来说,分析工作者习惯采用“四舍五入”修约规则,不过在分析中逢五就进,必然会造成结果的系统偏高,误差偏大,为了避免这样的状况出现,尽量减少因修约而产生的误差,一般采用四舍六入五留双的修约规则:
 
有效数字的数值和运算
 
 
3 运算修约规则
 
 
有效数字的数值和运算
 
4 试验过程中数值记录(参考)
 
1、称量实验“精密称定”是指称取重量应准确至所取重量的千分之一;
 
有效数字的数值和运算
 
“称定”是指称取重量应准确至所取重量的百分之一,按照“精密称定”项原则进行修约;
 
“称重”,“称取”一般准确到规定重量下一位;
 
取“约XX”时,指取用量不超过规定量的(100±10)%;
 
取“XX”时,参照修约规则。
 
 
2、量取试验
 
以刻度为依据可读到最小刻度所在位并估读最小刻度之间。
 
 
有效数字的数值和运算
 
 
图中“1”记录为35.00cm,而不能记录35cm,图中“2”记录为35.40cm,图中“3”可记录为35.75cm。
 
量取5ml的液体应采用5-10ml的量筒;量取5.0ml的液体应采用5-10ml的刻度管;量取5.00ml的液体应采用5-10ml的移液管。
 
容量瓶的定容应记录为定容至100.00ml。
 
 
3、色谱实验
 
峰面积一般不做修约,按实际测定值进行记录,参与计算后按相关规定进行修约。
 
拖尾因子、分离度可修约至小数点后两位,理论塔板数一般修约至正整数。
 
保留时间不做修约。
 
工作站自动生成数值也可不做修约。
 
化合物含量应该比标准规定限度的有效位数多一位,根据实际情况以修约规则进行修约。并且至少保留一位有效数字。
 
RSD按“只进不舍”进行修约。
 
色谱条件数值不得修约。
 
方法学验证项的数值应该比标准规定限度的有效位数多一位,根据实际情况以修约规则进行修约。并且至少保留一位有效数字。
 
 
4、其他实验
 
熔点、沸点等物理参数可修约至小数点后一位。
 
旋光率、折光率、原子吸收值可修约至小数点后三位。
 
有效数字的数值和运算
 
分享到:

来源:Internet