金沙,金沙官网

欢迎来到重庆金沙计量检测校准实验室
服务热线:023-60314379

行业知道

Industry knows

金沙官网

联系人:曾先生

手机:133-6829-2238

座机:023-60314379

QQ/微信:2851812315

邮箱:2851812315@qq.com

重庆实验室:重庆北碚区水土镇万宝大道184号

东莞实验室:东莞市道蓉镇厚德上梁川工业区

江苏实验室:昆山市经济技术开发区昆嘉路379号

千分尺示值误差保留小数位数?

编辑:金沙官网        发布日期:2018-06-27        点击量:683

测量0-25mm/0.01mm的千分尺,在处理示值误差数据时,考虑量块的修正值后,得出来的数据保留几位小数?是保留1位小数吗?例如:受检点误差值为1μm,量块修正值为+0.14μm,则示值误差为0.9μm?

最终是1μm。直接读得的误差值为1μm,本身就是近似数(估读值),这就是近似数的加减法问题了,近似数的加减法的结果与小数位数最少的那一个看齐。量块的修正值位数再多,跟在估读的一位后面也是没有意义的。

金沙官网
金沙官网
XML 地图 | Sitemap 地图