标准下载论坛

 找回密码
 注册
搜索
热搜: 活动 交友 安全
查看: 669|回复: 2
打印 上一主题 下一主题

请教MSA中数据样本取样位数的问题

[复制链接]
跳转到指定楼层
1#
发表于 2011-10-27 00:49:10 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
各位高手,我想问下,在做双性分析时,量检具的分辨率如果是0.01,但量检具数显读数为0.001,也就是最后一位是估读的情况,那填入的数据应该是0.01的精度还是0.001,这在MSA手册中,有描述吗?
2#
发表于 2011-10-27 00:49:16 | 只看该作者
量检具的分辨率如果是0.01,但量检具数显读数为0.001 ?
怎么会这样?
如果数显读数为0.001,其分辨率也应该是0.001才对吧;
3#
发表于 2011-10-27 00:49:22 | 只看该作者
数显读数的最小单位量就是分辨率,为0.001
但精度在说明书上有,应该就是0.01吧
您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|手机版|Archiver|标准下载库

GMT+8, 2024-11-28 04:25 , Processed in 0.047852 second(s), 19 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表