您当前的位置:检测资讯 > 实验管理

实验数据的处理方法(1)有效数字与运算规律

嘉峪检测网        2016-12-19 12:54

实验数据的处理方法

通过实验测得原始数据后需要进行计算将最终的实验结果归纳成经验公式或以图表的形式表示,以便与理论结果比较分析。因此由实验而获取的数据必须经过正确的处理和分析,只有正确的结论才能经得起检验。下面介绍这方面的基本知识。

 

一、有效数字与运算规律

1.有效数字

在测量和实验中,我们经常遇到两类数字,一类是无单位的数字,例如圆周率π等,其有效数字位数可多可少,根据我们的需要来确定有效数字。另一类是表示测量结果有单位的数字,例如:温度、压强、流量等。这类数字不仅有单位,且它们最后一位数字往往由仪表的精度而估计的数字,例如精度为1/10℃的温度计,读得21.75℃,则最后一位是估计的,所以记录或测量数据时通常以仪表最小刻度后保留一位有效数字。

在科学与工程中为了能清楚地表示数值的准确度与精度和方便运算,在第一个有效数字后加小数点,而数值的数量级则用10的幂表示,这种用10的幂来记数的方法称为科学记数法。例如:实验数据的处理方法 - 夏雨轩Joor - 夏雨轩的博客,可记为实验数据的处理方法 - 夏雨轩Joor - 夏雨轩的博客

 

2.有效数字的运算规律

11)在加减运算中,各数所保留的小数点后的位数应与其中小数点的位数最少的相同,例如:实验数据的处理方法 - 夏雨轩Joor - 夏雨轩的博客

22)在乘除运算中,各数所保留的位数以有效数字最少的为准,例如:将0.0135,17.53,2.45824三数相乘应写成实验数据的处理方法 - 夏雨轩Joor - 夏雨轩的博客

33)乘方及开方运算的结果比原数据多保留一位有效数字,例如:实验数据的处理方法 - 夏雨轩Joor - 夏雨轩的博客实验数据的处理方法 - 夏雨轩Joor - 夏雨轩的博客

44)对数运算,取对数前后的有效数字相等,例如:实验数据的处理方法 - 夏雨轩Joor - 夏雨轩的博客实验数据的处理方法 - 夏雨轩Joor - 夏雨轩的博客

 

分享到:

来源:AnyTesting