标准下载论坛

标题: 请教MSA中数据样本取样位数的问题 [打印本页]

作者: 星空 时间: 2011-10-27 00:49
标题: 请教MSA中数据样本取样位数的问题
各位高手，我想问下，在做双性分析时，量检具的分辨率如果是0.01，但量检具数显读数为0.001，也就是最后一位是估读的情况，那填入的数据应该是0.01的精度还是0.001，这在MSA手册中，有描述吗？

作者: 提米拉苏 时间: 2011-10-27 00:49
量检具的分辨率如果是0.01，但量检具数显读数为0.001 ？
怎么会这样？
如果数显读数为0.001，其分辨率也应该是0.001才对吧；

作者: 大嘴囝 时间: 2011-10-27 00:49
数显读数的最小单位量就是分辨率，为0.001
但精度在说明书上有，应该就是0.01吧

欢迎光临标准下载论坛 (http://bbs.bzxzk.net/)