Question

精度和分辨率的区别

Answer 1

很多A/D转换器和仪器厂商常拿分辩率来忽悠人, 很多人的确上套, 即使专业人士也常常逃不过. 其实这两者的区别很大, 但有联系.
1, 精度是接近真实值的程度, 即绝对误差或相对误差的大小.精度做到0.01%极其难
2, 分辩率是量化刻度的细度大小,分辩率做到0.00001%不很难(如24位A/D,0.0000056%)
3, 概念理解：
例1:一把1米的软尺,有1000个刻度，分辩率1毫米(分辩率0.1%),用标准尺量下绝对误差+5毫米,精度+0.5%。如果能把尺拉长20毫米，此时绝对误差+25毫米，精度降为2.5%, 可是尺还是1000个刻度，其分辨率还是1毫米(0.1%).
例2:两杆称来称真重1克的物体, 一杆的结果为1.03克, 另一杆的结果为0.8333333333333333333333333克, 哪个准呢
4, 关系
分辩率高是精度高的必要条件,不是充分条件;分辩率高不等于精度高. 认定精度才是王道.