检测结果有效数字及其运算–有效数字及其有效数字的保留
1 .有效数字的定义
我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。
如:0.2014为四位有效数字,最末一位数值4是可疑值,而不是有效数值。
再如:1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。
2 .有效数字的保留
由于有效数字最末一位是可疑值,而不是准确值。因此,计算过程中,计算的结果应比标准极限或技术指标规定的位数要求多保留一位,最后的报出值应与标准对定的位数相一致。
如:在标准的极限数值(或技术指标)的表示中,×× ≧95 表明结果要求保留到整数位。因此,计算结果一定要保留到小数点后一位,最后再修约到整数位,如计算结果为94.6报出结果为95(-);因为94.6结果的0.6为可疑值,要想保留到整数位结果为准确值,计算结果必须要多保留一位。
如,分析天平的分辨率为0.1mg(即我们常说的万分之一天平),如果我们称取的量是10.4320g,则实际的称取结果结果为10.4320±0.0002g(万分之一的天平误差)。
如GB/T 601-2016《化学试剂 标准滴定溶液的制备》,要求报出结果取4位有效数字,因此在标定计算结果中,应保留5位有效数字,最后再修约到4位有效数字(如果直接保留到4位有效数字,实际上是保留了三位有效数字,因最后一位是可疑值,则由标准溶液的浓度的不准确,会引进系统误差。
免责声明:
本文信息部分内容来自网络文章,不保证所有信息、文本、图形、链接及其他项目的绝对准确性和完整性,故仅供访问者参照使用。如您(单位或个人)认为本文某部分内容有侵权嫌疑,敬请立即通知我们,我们将在第一时间予以更正或删除。以上声明之解释权归本公司所有。法律上有相关解释的,以中国法律之解释为基准。如有争议限在我方所在地司法部门解决。谢谢。