碧波液压网 欢迎你,游客。 登录 注册

测量数据有效数字位数的确定与运算的应用

版权信息:站内文章仅供学习与参考,如触及到您的版权信息,请与本站联系。
液压导航网

  

  1引言

  在实际的测量和计算中, 应对直接测量数值取几位数字? 按函数关系计算, 对间接测量值要保留几位数字? 这是数据处理中的一个重要问题。 为此, 针对测量结果的数值修约、 有效数字位数确定和数值运算等实际应用中的若干问题进行了探讨,明确了一些模糊不清和似是而非的概念。 对提高试验质量有很大的帮助。

  2有效数字

  在实际中, 经常要对某些量进行测量, 并对所测得的数据进行计算, 为了合理地取值和正确运算, 在数据处理时会采取保留几位有效数字的做法。 有效数字就是指工作中实际能够测量到的数字, 包括最后一位估计的不确定的数字, 例如: 我们用最小刻度为毫米的米尺来测量物体的长度, 可以看出在 2.1~2.2 cm 之间。 虽然米尺上没有小于毫米的刻度, 但可以凭眼力估计到1/10mm (最小刻度的1/10) , 因而可以读出物体的长度为 2.12cm、 2.13 cm 或 2.14 cm。 前两位数是从尺上直接读出的准确数字, 把测量中直读的准确数字叫做可靠数字, 而第三位数字是观测者估读出来的, 这是欠准确、 含有误差的数字。 常把估读的数字称为存疑数字, 由于第三位是可疑的, 所以继续估读下去没有必要和意义。 一般对一个数据取其可靠位数的数字加上第一位可疑数字, 这就被称为这个数据的有效数字, 也就是说, 测量结果中能够反映被测量值大小的几位可靠数字加上一位存疑数字的全部数字就被叫做测量结果的有效数字。 有效数字的最后一位虽是可疑的, 但一定程度上反映客观实际, 因此也是有效的。

  2.1有效数字中特别要注意0的情况

  第一个非零数字开始的所有数字, 包括 0, 都是有效数字; 第一个非零数字前的零不是有效数字, “0” 在数字的前面, 只表示小数点位置, 不包括在有效数字中。 有效数字位数与小数点的位置无关。 换句话说, 表示小数点位置的 “0” 不是有效数字。 如果 “0” 在数字之间与末尾时, 则表示一定的数值, 应该包括在有效数字的位数中, 有效  数字末尾的 “0” 表示存疑数字的位置, 随意增减会人为地夸大测量的准确度或者是测量误差, 不得随意在测量数据的末尾添加或删减数字 “0”。

  例 1: 以下测量结果的数值中有几位是有效数字?

  有效数字: 50.8 0.38 0.68 0.0068 6.8×10 18501.85×10 506 220;

  位数: 三位 二位 二位 二位 二位 四位 三位 三位 三位。

  例 2: 0.021 4 m =2.14 cm=21.4 mm 都是三位有效数字。

  例3: 0.056 和 0.56 与小数点无关, 均为两位。

  2.2有效数字存疑位的读取以测量的精度为依据

你没有登陆,无法阅读全文内容

您需要 登录 才可以查看,没有帐号? 立即注册

标签:
点赞   收藏

相关文章

发表评论

请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。

用户名: 验证码: 看不清?点击更换

最新评论