1 有效数字
有效数字是分析中具有实际意义的测定数值。它是由直接读取的准确数字和通过估读得到的可疑数字(最后一位)组成。
例如:3.2438中的“8”和0.130中的“0”。
有效数字的个数是有效位数,对于不同类型的测定数值其有效位数为:
2 数值修约规则
一般来说,分析工作者习惯采用“四舍五入”修约规则,不过在分析中逢五就进,必然会造成结果的系统偏高,误差偏大,为了避免这样的状况出现,尽量减少因修约而产生的误差,一般采用四舍六入五留双的修约规则:
3 运算修约规则
4 试验过程中数值记录(参考)
1、称量实验“精密称定”是指称取重量应准确至所取重量的千分之一;
“称定”是指称取重量应准确至所取重量的百分之一,按照“精密称定”项原则进行修约;
“称重”,“称取”一般准确到规定重量下一位;
取“约XX”时,指取用量不超过规定量的(100±10)%;
取“XX”时,参照修约规则。
2、量取试验
以刻度为依据可读到最小刻度所在位并估读最小刻度之间。
图中“1”记录为35.00cm,而不能记录35cm,图中“2”记录为35.40cm,图中“3”可记录为35.75cm。
量取5ml的液体应采用5-10ml的量筒;量取5.0ml的液体应采用5-10ml的刻度管;量取5.00ml的液体应采用5-10ml的移液管。
容量瓶的定容应记录为定容至100.00ml。
3、色谱实验
峰面积一般不做修约,按实际测定值进行记录,参与计算后按相关规定进行修约。
拖尾因子、分离度可修约至小数点后两位,理论塔板数一般修约至正整数。
保留时间不做修约。
工作站自动生成数值也可不做修约。
化合物含量应该比标准规定限度的有效位数多一位,根据实际情况以修约规则进行修约。并且至少保留一位有效数字。
RSD按“只进不舍”进行修约。
色谱条件数值不得修约。
方法学验证项的数值应该比标准规定限度的有效位数多一位,根据实际情况以修约规则进行修约。并且至少保留一位有效数字。
4、其他实验
熔点、沸点等物理参数可修约至小数点后一位。
旋光率、折光率、原子吸收值可修约至小数点后三位。