2014年质量工程师(初级)《专业基础知识与实务》第四章辅导
第四节测量数据的修约 有效数字和数据修约
一、有效数字和数据修约
1.有效数字
对于任何数,包括无限不循环小数和循环小数,截取一定位数后所得到的数就是近似数。测量结果只能是一个接近于真值的估计值,其数也是近似数。
当该近似数的绝对误差的模,小于最末一位数字所对应的单位量值的一半时,从左边的第一个非零数字算起,直至最末一位数字为止的所有数字,即为有效数字。表示测量结果的数字的有效位数,将代表结果的误差大小。
例如:0.19mm表示其有效数字为两面位,绝对误差小于0.005mm。
0.190mm表示:其有效数字为三位,绝对误差小于0.0005mm。注意最后的0的意义。
2.数值修约
将表示带有误差的测量或计算结果的数字通过省略数值的最后若干位数字,调整所保留的末位数字,使最后所得到的近似值尽可能接近原数值的过程,所谓修约就是“舍人”或“进舍”经修约后数值称为修约值。
修约值的最小数值单位称为修约间隔,修约间隔的数值一经确定,修约数即为该数值的整数倍。例如:指定修约间隔为0.1,修约数应在0.1的整数倍的数中选取;相当于将数值修约到一位小数。若修约间隔100,修约值应在100的整数倍的数中选取,相当于将数值修约到“百”位数。
二、数值修约规则和方法
国家标准GB/T8170-2008《数值修约规则与极限数值的表示和判定》,规定了测量或经计算的各种数值需要修约的规则,具体规则和方法如下。
1.确定修约间隔
一般的,若指定修约间隔为10-n“(n为正整数),表明将数值修约到n位小数,若指定修约间隔为10n,即表明将数值修约“十”“百”“千”数位。
2.正数的修约:四舍六人五单双法
口诀:四舍六人五考虑,五后非零则进一,五后皆零视奇偶,五前为偶应舍去,五前为奇则进一。
3.负数的修约
负数的修约规则是先按它的绝对值修约,然后所得值前加负号。
4.不允许连续修约
拟修约数值应在确定修约间隔或指定修约数位后一次修约获得结果,不得多次按上述规则连续修约。
5.0.5单位修约与0.2单位修约
在对数值进行修约时,若有必要,也可采用0.5单位修约或0.2单位修约。所谓0.5单位修约也称为半个单位修约,是指按指定修约间隔对拟修约的数值0.5单位进行修约。
0.5的修约方法如下:将拟修约数值x乘以2,按指定修约间隔对2x依前面的规定修约,所得数值再除以2。
同样0.2的修约方法如下:将拟修约数值X乘以5,按指定修约间隔对2X依前面的规定修约,所得数值再除以5。
6.在有些特殊规定的情况下,应该只按一个方向修约,即规定只进不舍或只舍不进。
相关推荐: