砝码真空质量和折算质量计算公式实际运用中的问题和解决办法
一、问题的由来
JJG99—1990砝码检定规程规定:一等砝码采用真空质量值,二等砝码至五等砝码一律采用折算质量值。
规程依照折算质量的定义,给出砝码折算质量值m折与真空质量值m之间的折算公式:
式中:ρ为砝码的材料密度,单位是g·;ρ1.2为约定的标准空气密度,(0.0012g·); V为砝码实际所具有的体积,单位是; V折为砝码材料按统一约定密度计算时的体积,单位是。
从数学角度看上面计算公式是恒等式,也是同折算质量的定义一脉相承。不管是用体积公式,还是用材料密度的公式去求某一个一等砝码的折算质量,两者求得的结果应该是严格相等的。但是在实际的计算中,已知一等标准砝码的真空质量和实际体积,用体积公式计算折算质量和用材料密度公式计算折算质量,计算所得的折算质量有差异。问题在于:
1.哪种计算方法的结果要准确一些?
2.结果不完全相同的原因是什么?
二、问题的产生原因分析
当用体积公式(2)计算折算质量时,m和V的有效数字位数,无疑问是分别表示着真空质量m和实际体积V的测量准确度。
其中ρ1.2为标准空气密度的共同约定值,为0.0012g·,这是一个理论值,是一个准确值而不是近似值。只有当砝码的材料按统一约定密度计算时的V折是计算值,但V折是由具有一定准确度测得的砝码的真空质量和统一约定密度求得的。显然,当运用体积公式求折算质量时。当体积差为1,折算质量和真空质量的差是1.2mg。若测定和计算的体积可以达到和满足0.1的准确度要求时,差值仅为0.12mg。若测定和计算的体积可以达到和满足0.1cm3的精度要求时,差值仅为0.12mg。但在实际计算时,各项是能够满足折算准确度的。所以,在实际计算折算质量时应选用公式(2)为最佳方案。
当用公式(3),即材料密度公式计算折算质量时。通常人们会根据有关资料介绍的近似值运算的经验法,视0.99985为5位有效数字。
而对取6位有效数字进行计算。这样计算的结果与用体积公式计算的结果比较会发现不完全相同。如表1所列。
的比值是一个系数。关于这系数的位数取多少位,应该以不影响折算质量的准确性为基本原则。位数取得太多,计算起来既不方便也没有必要;位数取得不够,计算结果的近似值就会影响计算结果的准确性。随意地确定这个系数的有效数字的位数是不恰当的。
由于0.99985是由()求得,式中三个是准确数,而不是近似数,所以这个系数的有效数字可以认为是无限位的。当我们用公式(3)计算折算质量时,砝码的真空质量m的有效数字位数有时多达8位。此时,若系数()/0.99985取6位有效数字计算,便会造成折算质量的结果,由于计算方法问题而出现偏差。
相关文章
- 2023-10-11测量空气折射率的瑞利干涉仪及使用中的定度问题
- 2023-05-17激光干涉仪在速度校准中的应用
- 2023-09-30用调制度评价卤化银乳胶全息记录材料的特性
- 2024-01-31影响转动惯量测量过程质量的主要因素分析
- 2024-01-21应对RoHS指令建立我国相关化学计量溯源体系
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。