[求助] 读取精度:±(0.02% of reading +5mV)

Holms   2017-10-20 14:56 楼主
   看到电源仪器上的读取精度写到 :±(0.02% of reading +5mV) ,这种怎么算的? reading是读取值吗?

回复评论 (6)

“ reading是读取值吗?”
是。

“这种怎么算的?”
哪个大,算哪个。
点赞  2017-10-20 15:25
这种写法是比较严谨的,因为高精度的仪表在小量程的时候如果再按百分比计算误差的话算出来的值会很小很小,技术上达不到,因此就用具体的数值表示。也有用几个字表示的,就是最后一位跳几个数字
点赞  2017-10-20 18:38
引用: jishuaihu 发表于 2017-10-20 18:38
这种写法是比较严谨的,因为高精度的仪表在小量程的时候如果再按百分比计算误差的话算出来的值会很小很小, ...

是不是理解成 5mV分辨率下,读取误差在0.02%?
点赞  2017-10-20 22:24
引用: maychang 发表于 2017-10-20 15:25
“ reading是读取值吗?”
是。

“这种怎么算的?”
哪个大,算哪个。

reading的0.02%怎么理解的?

我想了一种解释:就是在5mV测量精度下,测量误差在 0.02%
点赞  2017-10-20 22:26
引用: Holms 发表于 2017-10-20 22:26
reading的0.02%怎么理解的?

我想了一种解释:就是在5mV测量精度下,测量误差在 0.02%

不是这样的。
应该是读数的0.02%再加上5mV。例如读数是100mV,那么0.02%就是20uV,再加上5mV,就是可能有正负5.02mV的误差。
点赞  2017-10-20 22:37
引用: Holms 发表于 2017-10-20 22:26
reading的0.02%怎么理解的?

我想了一种解释:就是在5mV测量精度下,测量误差在 0.02%

6楼gmchen所说是正确的。
如果是哪个大算哪个,应该写成±(0.02% of reading or 5mV)
点赞  2017-10-21 01:23
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 京公网安备 11010802033920号
    写回复